[3줄 요약]
1. KT는 딥페이크 합성 음성을 이용한 보이스피싱을 실시간 탐지하도록 AI 보이스피싱 탐지서비스를 고도화했다.
2. 개인정보위와 과기정통부, 과학수사연구소와 협력해 개인정보 규제를 지키면서 보이스피싱 범죄자의 음성을 학습했다.
3. 갤럭시S 23 이상 단말기에서 사용 가능하며, 후후 앱을 설치하면 통신사 상관 없이 이용할 수 있다.

[보안뉴스 여이레 기자] KT 사용자는 딥페이크 합성 음성을 악용한 보이스피싱 시도를 통화 중 탐지해 피해를 예방할 수 있게 된다.

KT는 30일 화자 인식과 인공지능(AI)으로 변조한 딥보이스 음성 탐지 기능을 통합한 ‘실시간 AI 보이스피싱 탐지서비스 2.0’을 상용화한다고 29일 밝혔다.

기존 문맥 기반 탐지 기술에 더해 범죄자 실제 음성을 인식하고, AI로 변조된 음성까지 식별할 수 있도록 AI 보안 역량을 고도화했다.

삼성전자 갤럭시 S23시리즈 이상 단말기에서 이용 가능하며, 통신사에 관계없이 ‘후후’(whowho) 앱을 설치해 이용할 수 있다. 적용 가능한 단말기는 순차적으로 확대한다.


▲KT는 30일 AI 보이스피싱 탐지 서비스 2.0을 상용화한다 [자료: KT]

민관 협력으로 규제 극복...AI 서비스 제공
이 서비스는 개인정보보호위원회, 과학기술정보통신부, 국립과학수사연구원 등과 민관 협력을 통해 개발됐다.

KT는 2024년 10월 과학기술정보통신부로부터 ICT규제샌드박스 실증특례 사업자로 선정돼 AI 기반 보이스피싱 탐지 기술 개발에 나섰다.

특히 화자 인식 기능은 개인정보보호위원회의 엄격한 규제 점검 및 승인을 거쳐 국내 최초로 상용화에 성공했다. 국립과학수사연구원이 제공한 보이스피싱 범죄자의 실제 신고 음성, 일명 ‘그놈목소리’ 데이터를 기반으로, 성문정보를 정밀 분석해 범죄 여부를 탐지한다. 기존 금융 키워드나 문장 구조 기반 탐지에 비해 정확도를 높였다.

국립과학수사연구원은 KT에 신뢰도 높은 데이터를 제공하기 위해 10개월간 그놈목소리 데이터를 전수 조사하고 정제했다.

KT 관계자는 “화자인식 기능 도입은 개인정보 보호 기준이 엄격한 국내 통신 환경에서 쉽지 않은 과제였지만, 제도적 검토와 기술적 신뢰성 확보를 통해 가능해졌다”고 밝혔다.

KT는 AI 음성합성(TTS) 기술로 생성된 변조 음성을 판별하는 딥보이스 탐지 기능도 함께 제공한다. 이 기술은 최근 지능화되고 있는 AI기반 보이스피싱 범죄 수법에 선제적으로 대응할 수 있는 핵심 수단으로, 지난해 건강보험공단 고객센터에 적용된 ‘AI 목소리 인증’ 서비스에서 검증된 바 있다.

KT는 이번 기술 고도화를 통해 의심스러운 음성을 실시간 분석 및 판별함으로써 고객이 보다 안전한 통신 환경을 이용할 수 있도록 지원한다.

보이스피싱 피해 예방 2000억원 목표
올해 상반기 KT의 AI 보이스피싱 탐지 서비스는 약 1460만건의 통화 트래픽을 분석해 91.6%의 탐지 정확도를 기록했다. 이는 서비스 초기 90.3%에 비해 1.3%포인트 향상된 결과다.

이 서비스로 약 710억원의 피해를 예방한 것으로 추산된다. 이번 2.0 버전 출시를 통해 연간 2000억원 이상의 피해 예방과 95% 이상의 탐지 정확도 달성을 목표로 한다.

KT는 보이스피싱 예방을 위해 금융권과도 협력하고 있다. 5월 은행연합회와 업무협약(MOU)을 체결하고 탐지 정보를 금융권 이상거래탐지시스템(FDS)과 연계, 탐지 데이터를 금융기관에 제공함으로써 ‘탐지 → 계좌 모니터링 → 출금 차단’ 등 실시간 후속 조치가 가능한 민관 협력 체계를 구축했다.

이현석 KT 커스터머부문장은 “보이스피싱으로부터 국민을 더욱 강력히 보호하기 위한 화자인식 기반 AI 탐지서비스 상용화애 협력해 주신 개인정보보호위원회, 과학기술정보통신부, 국립과학수사연구원에 감사드린다”며 “이번 기술 상용화를 계기로 금융권 협업도 한층 강화해 고객 피해를 획기적으로 줄여 나가겠다”고 밝혔다.

[여이레 기자(gore@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>