경찰청, 딥페이크 악용한 ‘선거범죄’, ‘합성성착취물 범죄’ 등 각종 영상 범죄 행위 잡는다
총선 앞두고 선거의 공정성 위협하는 딥페이크 선거범죄 등에 적극 대응해 나갈 것
최신 AI 모델 적용된 국내 딥페이크 탐지 소프트웨어...영상 속 한국인 탐지율 ↑

[보안뉴스 이소미 기자] 최근 딥페이크 기술을 악용한 각종 범죄들이 속속들이 등장하고 있다. 딥페이크는 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어로 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술 기반의 이미지 합성기술이다.

챗GPT 등 생성형 AI를 활용할 수 있는 애플리케이션 등의 서비스 접근이 용이해지면서 유명인을 사칭하거나 허위로 조작된 정보가 담긴 영상이 사회관계망서비스(SNS)에 버젓이 확산되고 있다. 이는 각종 금융사기범죄부터 사회적 혼란을 야기시킬 수 있는 가짜뉴스 제작 그리고 심각한 성범죄 등에도 악용되고 있다. 특히 오는 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 및 여론조작 등 사이버 선거범죄에 대한 우려도 높아지고 있는 실정이다.


[이미지=gettyimagesbank]

이에 따라 선거범죄에 대한 엄정 대응을 위해 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지하는 개정 공직선거법 제82조의8(2024. 1. 29.)이 시행됐다.

이렇듯 선거의 공정성을 위협하는 딥페이크형 선거범죄와 합성성착취물 범죄 등에 적극 단속 및 대응해 나가기 위해 경찰청 국가수사본부(본부장 우종수)는 ‘딥페이크 탐지 소프트웨어’를 개발했다고 5일 밝혔다. 이를 통해 관련 범죄 단속과 수사 방향을 설정하는 자료로 활용해 나간다는 계획이다.

해당 소프트웨어는 이미지·영상에서 자동으로 얼굴을 인식해 교체하는 AI 딥러닝 기술인 ‘페이스 스왑(Face Swap)’ 등 딥페이크 활용으로 의심되는 영상을 시스템에 업로드하면, 통상 5분~10분 내로 분석 작업을 완료해 ‘가짜 영상’인지, ‘진짜 영상’인지를 판별해낸다. 또한 판별 작업과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있어 경찰의 빠른 대응이 가능하다.

이번 ‘국내 딥페이크 탐지 소프트웨어’는 인물 5,400명의 데이터 520만 점(한국인 데이터 100만 점 및 아시아 계열 인종 데이터 13만 점 포함) 등 한국인과 관련된 다양한 데이터 학습이 이루어진 최신 AI 모델이 적용됐다. 따라서 새로운 형태의 합성 영상이라도 충분히 판별해낼 수 있도록 개발됐다. 이는 기존의 딥페이크 탐지 모델이 주로 해외에서 제작돼 서양인에 비해 한국인이 합성된 영상 탐지율이 현저히 떨어지던 문제도 해결할 수 있게 됐다.

‘국내 딥페이크 탐지 소프트웨어’의 진위 여부 탐지율은 약 80%로 증거자료보다는 수사 방향을 설정하는 자료로 활용될 예정이다. 특히 딥페이크 영상 활용 ‘선거범죄’의 경우, 오탐률 최소화를 위해 학계·기업 등의 AI 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 했다.

경찰청은 “딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’의 분석을 거쳐 빠르게 도출된 결과를 토대로 적극적인 수사를 펼쳐 나갈 것을 기대한다”면서, “향후 더욱 정확한 탐지를 위한 소프트웨어 고도화 및 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 밝혔다.
[이소미 기자(boan4@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>