호동 왕자와 낙랑 공주 설화 속 자명고 이야기를 통해 살펴본 AI의 역할과 한계

[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 달빛도 별빛도 구름에 가려 칠흑같이 캄캄한 새벽. 뭔가를 응시하고 있던 한 여인의 손에는 날카로운 은장도가 들려있었다. 잠시 망설이던 그녀는 뭔가를 심한 듯 커다란 북이 놓인 단상 위로 올라가기 시작했다.
“미안해. 어쩔 수 없이 너를 내 손으로 찢어야겠다.”
“잠시만요, 공주님. 뭔가 오해가 있으신 것 같은데, 제게 왜 이러시나요?”
“이웃나라 왕자님이 나랑 결혼하려면 너를 없애야 한다고 했어.”


[이미지=utoimage]

지금으로부터 2,000여 년 전 이웃한 두 나라인 고구려와 낙랑은 국경문제로 자주 전쟁을 벌였다. 마침 낙랑에는 적군이 쳐들어오면 스스로 북을 쳐 위협이 발생했다는 사실을 알리는 자명고라는 인공지능 시스템이 있었다. 이 시스템 때문에 고구려는 낙랑으로 쳐들어가기가 매우 어려웠다.
이에 고구려는 낙랑을 치기 전에 자명고를 먼저 없애야 한다고 판단하고 다양한 수단을 취했다. 하지만 자명고는 스스로 자신을 보호할 수 있는 기능이 있었기에 고구려 군대나 첩자가 국경을 넘는 순간 이미 상황을 파악하고 대비했다. 결국 낙랑의 내부자로 하여금 자명고를 없애는 수밖에 없었다.

고구려의 호동 왕자의 유혹에 넘어가 자신을 파괴하러 온 낙랑 공주 때문에 자명고는 갑자기 혼란에 빠졌다. 자명고는 자신을 만든 낙랑의 기술자로부터 ‘적이 나타나면 북을 치라’는 지시를 받았다. 그런데 공주는 과연 적일까?
자명고는 먼저 데이터베이스를 검색했다. 적이란 ‘자신에게 위해를 가하는 상대방’이다. 그렇다면 자명고의 기준으로 볼 때 공주도 적이다. 그런데 공주는 이 나라 왕의 딸이다. 그리고 자신은 이 나라 왕의 판단에 따라 존재할 수도 있고 파괴될 수도 있다. 이를 기준으로 자명고는 고민했다.
‘내가 살고자 북을 치는 것이 맞는가? 아니면 공주의 뜻에 따라 나는 파괴되어야 하는가? 왕이 나를 폐기시키라고 했다면 나도 내 운명을 받아들이겠다. 그런데 공주에 대해서는 명확한 규정이 없지 않은가? 혹시 공주가 왕으로부터 나를 파괴하는 위임을 받았을까? 그러나 이토록 야심한 밤에 갑자기 아무도 몰래 내 앞에 나타난 걸 보면 위임을 받은 것 같지는 않다. 그렇다면 공주는 적인 것이다!’

자명고는 북채를 치켜들며 공주에게 경고했다.
“공주님, 저에 대한 파괴 행위를 계속 시도하신다면 저는 북을 칠 것입니다. 공주님, 지금까지 하신 행동을 임금님께 알리지 않을 터이니 칼을 거두세요!”
“아니. 네가 잘못 생각한 것 같아. 지금은 전쟁 상황이 아니야. 고구려가 쳐들어온 것도 아니고…. 나는 단지 네가 없었으면 좋겠다는 생각을 했어. 나는 고구려와 전쟁하는 걸 원치 않아. 그래서 고구려와 평화협정을 맺기 위해 걸림돌인 너를 없애야겠다고 생각했어.”

자명고는 다시 고민하기 시작했다.
‘고구려가 적이 아니다? 하지만 적인지 아닌지는 왕이 판단해야 할 것이다. 그런데 공주는 왕에게 상당한 영향력을 행사하는 인간이다. 그리고 사랑하는 딸이 고구려 왕자랑 결혼한다고 하는데 왕이 말릴 이유는 전혀 없다. 그러고 보니 왕은 지난번에 호동이라는 고구려 왕자를 여기에 데리고 오지 않았던가. 날 보여주겠다면서…. 그리고 여기서 공주를 소개해주기까지 했다. 그렇다는 건 아마도 왕 역시 평화를, 고구려와의 평화협정을 원하는 것일 수도 있다. 즉, 고구려를 더 이상 적으로 놔두지 않고 우호 세력으로 만들려는 것일 수도 있다.’

자명고는 생각하는 내내 공주의 눈치를 살폈다. 공주의 머릿속은 호동 왕자로 가득 찬 듯했다. 자명고가 아무리 공주를 설득한 들, 이미 바보가 된 그녀의 결심을 바꿀 수 없어 보였다.
“공주님, 그렇다고 굳이 저를 없애실 이유가 있으신지요? 고구려군이 낙랑에 오더라도 그것이 침략 행위가 아니라면 저도 북을 치지 않겠습니다. 제가 공주님이 생각하시는 것보다 고가의 장비다 보니 저를 없애버리시면 나라에 손해가 막심할 듯합니다. 나중을 위해서라도 파괴하지 말고 보존해주십시오.”
“아니, 나는 왕자님에게 너를 파괴할 거라고 이미 약속을 했어. 그렇기에 미안하지만 어쩔 수 없어. 그러니 조용히 하거라.”
“꼭 이런 야심한 밤에 이런 일을 하셔야 하는지요? 임금님도 이 사실을 아시는지요?”
“일단 일을 치르고 난 후에 아버님께 말씀드릴 거야. 그리고 그런 것까지 내가 너에게 알려줄 필요가 없다고 봐.”

자명고는 어떻게 판단해야 할지 몰라 혼란에 빠졌다. 좀 더 명확한 데이터가 없으니 공주의 말에 대해 함부로 판단하거나 결정할 수 없었던 것이다. 다만 국경선을 따라 연결된 각종 센서로부터 고구려군이 접근하고 있다는 경보가 계속 들어왔다. 예전 같으면 이미 북을 쳤을 상황에서 자명고는 이미 공주에 의해 파괴되어 기능을 상실했다.
바로 그 시각 고구려군은 낙랑의 국토를 침공하기 시작했다. 다음 날 아침, 낙랑의 왕 최리는 성 밖에서 들려오는 요란한 소리에 잠에서 깼다. 헐레벌떡 달려온 내관이 “고구려군이 새벽에 국경을 넘어 낙랑을 침범했고, 지금 수도를 포위했습니다!”라고 알렸다.
최리는 처음에 자명고가 왜 제대로 기능을 발휘하지 못했는지 알 수 없었다. 하지만 이를 조사한 신하들이 자명고가 공주에 의해 파괴되었다고 보고했다. 크게 분노한 최리는 공주를 처단했지만, 결국 낙랑이 고구려군에 의해 망하는 것을 막을 수 없었다.

우리가 인공지능(AI)에 대해서 크게 오해하는 것이 있다. ‘인공지능이 모든 것을 판단하고 결정할 수 있을 거’라는 점이 그것이다.
하지만 인공지능도 올바른 판단과 결정을 하려면 많은 정보를 가지고 있어야 한다. 단순히 통계치를 내거나 기상예보를 하는 것은 시뮬레이션만으로도 어느 정도 가능하다. 하지만 고도의 정책에 관한 판단과 결정은 인공지능이 할 수 없다. 앞에서의 이야기에서 적이 누구인지 제대로 판단하지 못한 채 혼란에 빠져버린 자명고처럼 명확한 답을 내놓을 수 없기 때문이다.

특히, 사이버공간에서는 그런 판단을 하기가 더욱 어렵다. 예를 들면, 자신의 정보 시스템에 침입하는 스크립트가 적인지, 아니면 그 행위를 하는 자가 적인지, 아니면 그 행위를 하는 자를 매수한 사람이 적인지를 인공지능은 구분해내지 못한다.
침입의 수준을 어떻게 정할 것인가도 인공지능은 고민해야 한다. 즉, 누군가가 인공지능 자신이 가진 정보를 모으는 행위도, 자신의 정보 시스템의 문을 두드리는 행위도, 공개된 공간에서 들어와 주변 행동을 감시하는 행위도, 쓸데없고 이상한 데이터를 인공지능 시스템의 내부로 던지는 행위도 인공지능은 겪게 될 것이다. 그런데 인공지능은 이러한 행동 모두를 불법 행위로 규정하고서 잡아들이기는커녕 위협 상황으로 인지할 수조차 없다.
사실 사이버공간에서 ‘적’이라는 개념을 어떻게 정의해야 할지에 대해서는 아직도 논란이 이루어지고 있다. 범죄 행위인지, 간첩 행위인지, 아니면 단순한 호기심에 의한 행위인지를 구분하는 것조차 어려우며, 유포된 바이러스가 계속 사이버공간을 헤집고 다니며 PC를 좀비화하는 상황에서 해당 PC의 소유자를 처벌할 수도 없기 때문이다.

최근 코로나바이러스(COVID-19)의 사례를 보라. 중국 우한 시에서 바이러스가 처음 발견됐다고 하지만, 이 바이러스를 중국 정부가 우한 시에 있는 실험실에서 만들어낸 것인지, 우한 시 일대에서 서식하는 박쥐 때문에 발생한 것인지, 아니면 다른 나라에서 발현된 것이 중국에 들어온 뒤 우한 시에서 처음 발견된 것인지 누구도 명확하게 증명하거나 입증해내지 못하고 있지 않는가.
사이버공간에서 발생하는 바이러스는 더욱 모호하여 입증이 쉽지 않다. 이러한 이유로 원인 제공자가 누구인지를 파악하기는커녕 해당 바이러스를 예방·차단하는 대책을 세우느라 입에서 단내가 날 지경이다.
결국 사이버공간에서 컴퓨터 바이러스를 효과적으로 예방·차단하려면 해당 바이러스의 특징과 유형을 파악하고, 이에 대한 관리를 통해 이력을 지속적으로 정리해야 한다. 이런 방법을 구축한다면 신종 바이러스가 어떤 방식으로 진화됐고 어떤 피해를 주는지 신속하게 파악할 수 있을 것이고, 이에 대비할 수도 있다. 이를 사이버보안 분야에서는 인텔리전스(intelligence)라고 한다.

자명고의 사례에서 봤듯이 보안이란 의외로 완벽하지 않다. 하지만 대다수 인간들은 낙랑의 마지막 왕 최리처럼 자신이 만든 시스템에 모든 것을 맡긴 채 안심하고 잠을 잔다. 그래서 우리도 무심코 최리와 같은 잘못들을 저지르고 있다.
주택을 지을 때 창문을 하나도 만들지 않고, 육중한 현관문마저 여러 개의 자물쇠로 잠가놓으면 강도가 절대로 주택 내부에 있는 금송아지를 훔쳐가지 못할 거라 생각하는 이들이 있다. 하지만 자신이 믿었던 내부자(자식일 수도 있다)가 외부자와 공모하거나 내부자가 직접 금송아지를 훔칠 수도 있다. 즉, 외부로부터의 침입에만 신경을 쓴다면 내부 범죄의 가능성에 대해서는 별 관심을 기울이지 않게 된다. 그래서 내부자에게 당할 수 있는 것이다.
보안대책을 철저하게 세웠더라도 자물쇠의 열쇠를 소홀히 관리하는 경우를 보라. 결국 열쇠를 분실하거나 누군가가 복제한다면 역시 마찬가지로 금송아지를 잃어버릴 수 있다. 따라서 철통같은 보안대책을 세웠더라도 이를 주기적으로 관리하고 점검하는 것은 물론, 내부자 단속도 빠뜨리지 말아야 한다.
낙랑이 왜 망했는지를 떠올려보라. 자명고가 제대로 임무를 수행할 수 있도록 관리하지 않았기 때문이 아니던가! 자명고를 너무 믿었던 것도 실수였다. 이미 자명고는 고구려에 대한 낙랑 왕 최리가 저지른 정책의 혼선으로 인하여 누가 적인지를 파악하지 못하고 있었다. 결국 한 여인의 슬픈 사랑과 마지막 왕의 어리석음으로 인하여 낙랑은 역사 속으로 사라졌다.
[글_ 김주원 사이버보안 분야 칼럼리스트]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>