안티딥보이스, 30일 익시오에 탑재
합성된 얼굴 찾는 ‘안티딥페이크’ 기술 확보...AI 기능 온디바이스 구현 초점
익시오 보이스피싱 탐지 기능 고도화...통화 모든 단계에서 고객 보호

[보안뉴스 한세희 기자] 줌 회의에 참석한 상사가 모처에 긴급 송금을 지시한다. 무언가 의심스럽지만, 함께 참가한 다른 동료들이 별 말없는 것으로 보아 큰 문제는 없다 생각해 지시를 따른다. 하지만 화상 회의에 참석한 상사도, 동료도 모두 딥페이크 기술로 만든 가짜 인물들이었다.

AI 기술 발달과 함께 이 같은 딥페이크 위협이 현실로 다가왔다. LG유플러스가 딥페이크 합성 음성과 영상을 탐지해 보이스피싱을 막는 기술을 실제 통신 서비스에 적용한다.

AI 위변조한 음성을 탐지하는 ‘안티딥보이스’(Anti-DeepVoice) 기술을 30일 자사 AI 에이전트 서비스 ‘익시오’에 탑재해 온디바이스 형태로 상용화한다. AI가 합성한 얼굴을 골라내 범죄 피해를 예방하는 ‘안티딥페이크’ 기술도 확보해 본격 상용화를 준비 중이다.


▲합성된 음성의 진위 여부를 파악할 수 있는 AI 기술인 안티딥보이스를 소개하는 모습[자료: LG유플러스]

전병기 LG유플러스 AX기술그룹장은 ”통신 분야에 최적화된 AI 기술로 빠르게 대응, AI가 고객의 삶을 더 안전하게 만들도록 실질적 가치를 제공하겠다”며 “차별화된 보안 기술을 통해 ┖보안에 가장 진심인 통신사┖로 자리매김할 것”이라고 말했다.

안티딥보이스는 LG유플러스가 개발한 VAD(Voice Activity Detection), STT(Speech-to-Text), 안티스푸핑(Anti-spoofing) 등 기술로 구현됐다. 통화 중 실제 음성 구간을 탐지(VAD)하고, 탐지된 음성을 텍스트로 변환(STT)해 음성 위변조 여부를 분석한다.

AI 엔진에 통화 200만건에 해당하는 3000시간 분량의 통화 데이터를 학습시켜 개발했다. 이석역 LG유플러스 모바일에이전트트라이브장은 “음성 합성 때 생기는 고주파 노이즈 등 인간이 판단할 수 없는 영역을 찾아내 진위를 판별한다”며 “통화 중 목소리 위변조 여부를 5초 안에 탐지해 팝업 등을 통해 알릴 수 있다”고 말했다.

안티딥페이크 기술은 영상이나 이미지를 분석, 합성된 영상에 남아있는 비자연적 흔적을 탐지해 합성 여부를 판별한다. 픽셀 단위의 질감이나 사람 눈에는 보이지 않지만 흔적으로는 남는 패턴의 불균형, 프레임 간 일관성이 떨어지는 현상 등을 분석해 합성 여부를 탐지한다.

한영섭 AI테크랩장은 “정지 영상뿐 아니라 조명이나 비디오 압축 여부 등에 따라 높은 정확도를 유지해야 하는 실시간 화상 통화 특성에 맞춰 강건한 구조로 AI 모델을 설계했다”며 “화상회의 중 딥페이크 영상이 감지되면 이를 경고해 경각심을 높이거나 회의를 종료하게 하는 등의 대책을 취할 수 있다”고 말했다.


▲전병기 LG유플러스 AX기술그룹장(전무)이 기자간담회에서 4A 전략에 대해 소개하는 모습 [자료: LG유플러스]

LG유플러스는 개인정보 보호를 위해 이 같은 AI 기능을 모두 사용자 기기 안에서 처리하는 온디바이스 AI 구현에 주력했다. 서버에서 구현되는 AI 모델 기능의 95% 수준을 유지하면서 단말기에서 작동하게 한다. 안티딥페이크 역시 온디바이스 경량화 연구 발전 속도와 고객 상황 등에 맞춰 상용화 시점을 결정할 방침이다.

또 단말기에 저장된 통화 내용이나 민감한 개인 정보를 안전하게 지키기 위해 양자 보안 기술 적용을 추진 중이다.

이와 함께 LG유플러스는 익시오를 통해 통화 전과 중간, 통화 후 모든 과정에서 발생할 수 있는 보이스피싱 위험을 차단하기 위해 다양한 기술을 추가로 확보할 계획이다.

스팸이나 보이스피싱 의심 전화를 AI가 대신 받아주는 서비스를 8월 선보인다. 현재 제공 중인 AI 전화 대신 받기 서비스를 스팸 전화 수신에 활용하는 사례가 많은 것에 착안했다.

익시오 고도화를 위해 LG유플러스는 ‘통화 전 AI 보이스피싱 탐지 시스템’ 도입을 준비하고 있다. 보이스피싱으로 신고된 전화번호의 통화 패턴 등을 AI가 학습한 뒤, 통화 시작 전 보이스피싱 가능성이 높은 번호를 자동으로 탐지한다. 고객은 전화를 받기 전에 위험 여부를 실시간으로 확인할 수 있어 피해를 사전에 예방할 수 있다.

통화 중 보이스피싱 범죄자의 목소리를 탐지하는 ‘범죄자 목소리 탐지 시스템’도 개발하고 있다. 국립과학수사연구원(국과수)과 협력해 개발 중이다. 보이스피싱범의 목소리를 AI로 실시간 비교·분석해 일치 가능성이 높을 경우 경고 알림을 제공하는 기술이다. 과학기술정보통신부의 규제 샌드박스 실증 특례를 준비하고 있다.

또 금융권과 협업해 AI 기반의 보이스피싱 위험 징후 탐지 및 실시간 경고 기술 개발도 추진한다.

나아가 익시오를 통해 개인의 일상과 감정까지 보호해 나갈 방침이다. 통화 중 위험 알림을 넘어 디지털 스토킹, 언어 폭력, 허위 정보 유포 등 현대 사회의 다양한 통신 기반 위협 요소를 탐지·차단하는 기능을 탑재한다는 계획이다. 통화 내용에 학교 폭력이 의심되는 상황이 엿보이면 부모에게 알림을 주는 식이다. 이를 통해 익시오를 ‘AI 안심 에이전트’로 발전시킨다는 목표다.

[한세희 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>