인공지능이 그리 완벽한 기술이 아니라는 게 계속해서 증명되고 있다. 그래서 아직 인공지능을 다 신뢰하기는 힘들다. 신뢰가 힘들게 하는 이유 중 하나는 설명이 되지 않는다는 것이다. 그래서 설명 가능한 모델들이 고안되고 있다.

[보안뉴스 = 팜 베이커 IT 칼럼니스트] 인공지능 분야에서의 지금 ‘성배’ 취급 받는 것이 하나 있으니 바로 ‘설명 가능한 인공지능’이다. 인공지능이 어떤 결과물을 냈을 때, 그 결과물을 어떤 논리의 과정을 거쳐 냈느냐를 우리는 아직 모른다. 그러므로 알고 싶다. 이는 인공지능이 낸 답을 맹목적으로 믿으려 하는 소수의 일부만 제외하고는 본능적으로 느끼는 감정이다.


[이미지 = gettyimagesbank]

그런 요구에 의해 떠오르고 있는 것이 있으니, 바로 ‘인과성 인공지능(Causal AI)’이다. “인공지능이 왜 그런 결론에 도달했는지를 설명할 수 있는 유일한 인공지능 모델”이라는 게 GSI테크놀로지(GSI Technology)의 조지 윌리엄즈(George Williams)의 설명이다. “대형 언어 모델의 강점이 ‘인간이 이해 가능한 언어를 사용한다’는 것이라면, 인과성 인공지능의 강점은 ‘인간의 이해력으로 이해한다’는 거라고 할 수 있습니다.”

인공지능의 ‘사고 과정’을 알 수 없다는 건, 결론에 이르는 과정을 전혀 평가하거나 감사할 수 없다는 뜻이다. 지금 우리가 사용하는 대부분의 인공지능이 그렇다. 게다가 인공지능 중 스스로를 반추하여 보고서를 작성해 제출하는 것도 존재하지 않는다. 모든 것이 수수께끼인 상태다. 엠펄스(mPulse)의 부회장 필 존슨(Phil Johnson)은 “현존하는 인공지능들은 블랙박스”라고 묘사한다.

이는 매우 중요한 문제다. 현장에서 “아직 인공지능을 온전히 신뢰할 수 없다”는 평가가 자꾸만 나오는 이유 중 가장 큰 것이 바로 이 ‘블랙박스’ 특성이기 때문이다. 심지어 인공지능이 거짓을 그럴듯하게 지어낸다는 사례는 수없이 등장하고 있다. 정교한 최첨단 거짓말쟁이가 지금 수준의 생성형 인공지능인 것인데, 그러니 블랙박스 문제를 해소하는 게 그 무엇보다 중요하다.

블랙박스 극복하기
인공지능이 각광 받은 지난 몇 년 동안 현장의 전문가들이 보다 분명하게 깨달은 게 하나 있다면, 인간의 뇌라는 것은 정말로 신비롭고 놀라운 것이라는 사실이다. 인간의 뇌를 흉내 내는 작업(즉 인공지능 개발 작업)에 몰두하면 할수록 우리는 뇌의 본질에서 더 멀어지는 것처럼 느껴질 정도다. 심지어 인간의 뇌를 인공지능으로 흉내 내는 게 가능하기는 할까, 하는 의문도 진지하게 제기되고 있다.

그렇다고 인공지능이라는 것이 거품 잔뜩 낀 기술이라는 뜻은 아니다. 특정 조건에서 특정 명령에 따라 자기 할일을 해내는 인공지능을 보자면 정말 인간이 컴퓨터 안 어딘가에 살아있는 것 같은 착각을 불러일으키기도 하니까 말이다. 강력하고 신기한 기술임은 확실하고, 사용 방법에 따라 어마어마한 잠재력을 발휘할 기술임도 분명하다.

“지금의 기계가 학습하는 방식은 방대한 양의 데이터를 흡수하고 소화하는 것이라고 할 수 있습니다. 인공지능 모델이 하나 만들어지기까지 상상하기 힘든 양의 데이터가 필요하죠. 인간의 뇌도 데이터를 축적하면서 발전하는 부분이 있으니 비슷하다고 할 수 있습니다. 하지만 이런 면만 흉내 낸 현재의 인공지능은 사람 편에서 이해하기 힘들다는 결정적인 단점을 가지고 있습니다. 산처럼 많은 데이터를 흡수하면서 자연스럽게 형성되었고, 그걸 바탕으로 결과물을 내는 것이니 일목요연한 설명이 가능할 리 없습니다.” 제미노스소프트웨어(Geminos Software)의 수석 연구원인 주디스 후르비츠(Judith Hurwitz)의 설명이다.

그렇다는 건 지금에 와서 설명 가능한 인공지능을 만든다는 게 상당히 어려운 일이 될 수 있다는 뜻이 된다. 케일런트(Caylent)의 수석 데이터 분석가인 라이언 그로스(Ryan Gross)는 “인과 추론 이론을 접목시킨 기술과 각종 그래픽 모델(DAG 등)을 활용해서 각종 변수와의 관계를 가시적인 조직도로 그려낼 수 있어야 한다”고 설명한다. “즉 매우 복잡한 일이라는 뜻입니다. 한 가지 변수가 변했을 때 다른 변수에 어떤 영향이 있을 수 있는지 설명하며 예측할 수 있는 모델이 만들어져야 합니다.”

인과성 인공지능?
기존의 인공지능과 설명 가능한 ‘인과성 인공지능’은 완전히 다른 기술이라고 전문가들은 말한다. 인포시스컨설팅(Infosys Consulting)의 브렌트 필드(Brend Field)는 “다른 인공지능 모델들은 정적이고, 인과성 인공지능은 동적이라고 말할 수 있다”고 간단히 비교한다. “인과성 인공지능은 특정 사건이 나중에 어떤 영향을 나머지 세계에 미치는지를 나타냅니다. 기존 인공지능 모델들은 이 데이터와 저 데이터가 어떤 관계를 가지고 있는지를 나타내는 것이고요. 환경 자체, 즉 데이터의 맥락이 변한다면 기존 인공지능은 오답을 낼 때가 많아지는데, 그것이 현재 인공지능의 한계입니다.”

과거에 축적된 데이터만을 바탕으로 답을 낸다는 건데, 그렇기 때문에 현존하는 인공지능의 예측은 크게 벗어날 때가 제법 많은 것이라고 필드는 지적한다. “사건의 이유나 전개 상황, 앞뒤 맥락과 미래에 발생할 가능성 높은 것들을 고려하고 예측하지 못한다면, 인공지능으로부터 얻어낸 답은 과거를 지향할 수밖에 없습니다. 인과성인공지능은 이런 부분에서 발생하는 인공지능의 한계를 극복하고자 고안된 것이라고 할 수 있습니다.”

그렇기 때문에 인과성 인공지능 모델을 사용할 때 인간의 개입이 많아질 수밖에 없다는 게 필드의 설명이다. “방대한 데이터를 한 번에 모아서 알고리즘에 집어넣고 끝내는 것과는 다르죠. 인공지능이 결정을 내리는 과정에 인간이 참여해야 하는 게 인과성 인공지능의 특징입니다. 인공지능이 어떤 과정을 거쳐 이런 결과물을 내는지 알려주면, 그걸 접수해 이해해서 조정하는 단계를 밟아야 합니다. 그러므로 최종 결과를 더 신뢰할 수 있게 됩니다.”

앰플리튜드(Amplitude)의 소프트웨어 엔지니어인 조셉 리브(Joseph Reeve)는 “인간과의 상호작용이 훨씬 더 활발하게 일어나는 것이 인과성 인공지능”이라며 “전문가의 전문성 그 자체가 인공지능 모델을 훈련시킬 때 활용될 수 있게 하는 것”이라고 설명한다.

이런 인과성 인공지능을 생성형 인공지능처럼 활용하는 게 가능할까? 마스터카드(Mastercard)의 데이터 부문 부회장인 모하메드 압델사덱(Mohamed Abdelsadek)은 “인과성 인공지능도 대량의 데이터를 빠르게 분석할 수 있고, 생성형 인공지능과 결합되어 시각적인 결과를 낼 수도 있다”고 말한다. “그러므로 생성형 인공지능이 낸 결과가 왜 그런지 이해할 수 있게 되는 겁니다.”

후르비츠는 오히려 생성형 인공지능과 인과성 인공지능이 결합했을 때 이상적인 결과가 나올 수 있다고 보고 있다. “인과성 인공지능의 ┖설명 가능성’이라는 특성이 생성형 인공지능 덕분에 극대화될 수 있기 때문입니다. 생성형 인공지능의 ‘신뢰하기 힘듦’이라는 단점은 인과성 인공지능으로 커버가 될 수 있겠지요.”

하지만 인과성 인공지능은 아직 초창기에서도 초창기에 있는 기술이다. 인간에게 자신의 논리를 설명할 수 있는 인공지능이 현장에 나타나려면 몇 년 걸릴 수밖에 없다. 인텔리버스(Intellibus)의 창립자인 에드 와탈(Ed Watal)은 “생성형 인공지능처럼 혁신처럼 활용 사례가 나타난다면 인과성 인공지능도 갑작스럽게 대중화 될 수 있다”며 “설명 가능한 인공지능을 접하는 게 대단히 먼 미래의 일만은 아닐 것”이라는 의견이다.

글 : 팜 베이커(Pam Baker), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>