한국형 딥페이크 특화 서비스
AI 역기능 해결하는 AI 안전 연구 및 기술 개발

[보안뉴스 조재호 기자] 샌즈랩이 한국인 얼굴 특징 위주로 학습해 탐지 정확도를 높인 딥페이크 탐지 서비스 ‘페이크체크 2.0을 선보였다고 16일 밝혔다. 딥페이크 식별과 대응에 필요한 인력과 시간을 대폭 줄일 수 있으리란 기대다.

페이크체크(fakecheck)는 딥페이크로 의심되는 이미지를 업로드하면 AI가 분석해 수 초 내로 진위를 판별해주는 서비스이다.


[자료: 샌즈랩]

샌즈랩은 최신 딥페이크 트렌드를 반영해 기능을 개선한 2.0 업데이트를 실시했다. AI 탐지 모델 수를 늘였고, 공개 데이터셋과 동의를 얻어 수집한 얼굴 이미지를 학습한 특화 모델도 개발했다. 한국 중장년층을 대상으로 한 딥페이크 이미지 탐자 정확도가 향상돼 전 연령대 인물에 대한 고른 분석이 가능해졌다.

이미지에서 사람 얼굴만 바꾸는 페이스 스왑으로 만든 이미지나 생성형 AI로 만든 가상 인물 이미지도 구분할 수 있도록 모델을 고도화해 탐지율을 높였다. 웹의 정상 이미지 100장과 GPT-4o로 생성한 딥페이크 이미지 200장을 대상으로 한 자체 테스트에서 99.33%의 정확도와 99.5%의 F1 Score를 달성했다.

2.0 버전에선 영상 탐지도 가능해진다. 최적화를 진행해 이달 중 적용한다.


페이크체크 2.0 분석 결과 화면. 이미지 특성에 따른 탐지 모델 세분화로 탐지율을 높였다. [자료: 샌즈랩]

페이트체크 기술을 활용하면 그간 수백 명의 인력을 동원해 2-3차 검증을 거쳐야 했던 딥페이크 탐지 업무 부담을 10분의 1 수준으로 줄일 수 있다고 회사측은 설명했다.

김기홍 샌즈랩 대표는 “악성코드 해킹이나 딥페이크 등으로 발생한 피해자를 보호하기 위한 진위 확인을 거치다 보면 골든타임을 놓치고 보호 효과도 상실되기 때문에 AI로 빠르게 해결해야 한다”며 “검증이 끝나기 만을 기다리는 것 말고는 할 수 있는 게 없는 피해자들의 마음을 누구보다 잘 알기에 페이크체크로 국내 디지털 성범죄에 국민들이 스스로 대응할 수 있는 빠르고 실질적인 방법을 제공했다”고 밝혔다.

[조재호 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>