에너지 업체의 CEO, 본사 CEO와 똑같은 목소리 가진 인공지능에 속아
영상과 음성으로 하는 신원 확인 믿을 수 없어...인공지능 시대의 신원 기술 찾아야

[보안뉴스 문가용 기자] 딥페이크 기술을 활용한 첫 번째 사기 사건이 발생했다. 사이버 범죄자들이 CEO의 음성을 거의 똑같이 생성해 24만 달러에 달하는 돈을 자신들의 계좌로 송금하도록 속이는 데 성공한 것이다.


[이미지 = iclickart]

딥페이크란 인공지능을 기반으로 한 음성 및 영상 생성 기술로, 실제로 녹음 및 녹화한 것과 흡사한 결과물을 만들 수 있다. 정치인의 가짜 인터뷰 영상, 유명 배우의 가짜 성인물이 딥페이크로 만들어진 바 있다.

신원확인 전문 기업인 에버던트(Evident)의 CEO 데이비드 토마스(David Thomas)는 “실제로 인공지능을 기반으로 한 신원 사기 시도가 급증하고 있다”고 설명한다. “이제 ‘내가 누구다’라고 직접 음성이나 영상으로 밝힌다 한들 믿을 수 없는 시대가 된 것입니다. 그렇다는 건 정확하고 오류 없는 신원 확인 기술이 그 어느 때보다 필요하게 되었다는 뜻입니다.”

사상 첫 딥페이크 사기 사건을 최초로 보도한 월스트리트저널에 의하면 피해 기업은 보험사인 ‘율러 헤르메스 그룹 SA(Euler Hermes Group SA)’의 고객사 중 하나라고 한다. 정확한 이름은 아직 공개되지 않았다.

사건은 다음과 같은 순서로 발생했다.
1) 지난 3월 한 에너지 기업의 CEO가 독일 모회사의 CEO와 통화를 했다.
2) 독일 모회사의 CEO는 22만 유로를 송금해달라고 요청했다.
3) 송금을 받아야 할 곳은 헝가리에 있는 한 공급사였다. 본사 CEO는 급한 일이라고 했다.
4) 돈은 본사에서 다시 보상해줄 것이라는 약속도 있었다.

요청을 받은 CEO는 자신과 대화를 하는 사람이 자기 상사라는 걸 조금도 의심하지 않았다. 독일인의 억양과 발성 패턴이 상당히 닮아있기도 했다. 상사의 명령을 받은 그는 곧바로 22만 유로를 송금했다. 송금이 끝나자 다시 전화가 걸려왔다. 독일의 CEO였다. 또 다른 급한 일이 있다며 다시 한 번 돈을 보내달라는 요청이 있었다. 의심이 생긴 피해자는 이 요청을 거부했다.

22만 달러는 헝가리에서 멕시코로 보내졌고, 거기서부터 또 다른 장소로 송금됐다. 찾을 길이 없어 보였으나 피해 기업으로서는 다행히 율러 헤르메스 측으로부터 22만 달러를 보장받을 수 있었다.

딥페이크를 동원한 사기 범죄가 얼마나 위협적인지가 이번 사건으로 드러났다. 회사나 기관, 소비자 모두에게 마찬가지다. 한 보고서에 의하면 음성 사기 시도가 2013~2017년 사이에 350%나 뛰어올랐다고 한다. 통화를 통한 사기 시도가 앞으로 더 극성을 부릴 가능성이 높다는 이야기다. “그 동안 보안 업계는 인공지능이 큰 도움이 될 것처럼 광고해왔죠. 그 이면에 있는 새로운 위험 요소들은 무시한 채 말이죠.”

머신러닝 엔지니어링 툴을 제공하는 기업 데사(Dessa)는 “누구라도 인공지능을 사용해 타인을 그럴 듯하게 흉내 낼 수 있다”고 경고한다. “이게 무슨 말이냐면, 그 동안 우리가 비웃던 스팸이나 피싱 전화 공격자들이 당신의 가족을 똑같이 흉내 낼 수 있다는 뜻입니다. 이를 통해 당신 집의 대문을 열 수도 있고, 당신 회사의 보안 구역에 들어갈 수도 있습니다. 그리고 사회적 불안을 일으키고 선거 결과 조작을 위한 여론 만들기도 가능하게 됩니다.”

에버던트의 토마스는 “인공지능이 보안에 도움이 되는 측면이 클지, 아니면 사이버 공격자들에게 더 도움이 될지 다시 한 번 검토해야 한다”고 주장한다. “인공지능 시대에 공격자들의 선택지가 늘어나는 것은 사실입니다. 기업들은 더욱 더 정신을 차리고 신원 확인 방법을 고민해야 합니다. 누굴 어디서부터 신뢰하고, 어떤 걸 근거로 신뢰해야 할지 진지하게 연구해야 합니다.”

3줄 요약
1. 딥페이크 기술 활용한 첫 번째 사기 사건 발생함. 피해 기업은 22만 유로 잃을 뻔했으나 보험사가 보장해 줌.
2. 사기 당한 당사자는, 자신과 통화하고 있는 사람이 상사일 것이라고 굳게 믿음.
3. 인공지능으로 신원 도용 간편하게 할 수 있는 시대, 신원 확인 기술과 방법에 대해 다시 고민해야 함.
[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>