구글 딥마인드와 협력, 카나나에 신스ID 적용
카나나 모델로 생성된 이미지·영상에 비가시적 워터마크 삽입, AI 생성 여부 추적

[보안뉴스 한세희 기자] 카카오가 구글 딥마인드의 AI 콘텐츠 워터마크 기능을 도입한다. 딥페이크나 허위 정보 생성에 AI가 악용되는 것을 막는다.

카카오(대표 정신아)는 구글 딥마인드와 AI 생성 콘텐츠 투명성 확보를 위한 기술 파트너십을 체결했다고 20일 밝혔다. 카카오 자체 AI 모델 ‘카나나’ 에 구글 ‘신스ID’(SynthID) 기술을 적용해 AI 생성 콘텐츠에 워터마크를 삽입하고 추적한다.



신스ID는 구글 딥마인드가 개발한 디지털 워터마킹 및 탐지 기술이다. 이미지, 텍스트, 오디오, 영상에 눈과 귀로는 감지할 수 없는 디지털 워터마크가 삽입돼 콘텐츠의 AI 생성 여부를 검증할 수 있다. 품질 저하 없이 AI 생성 여부를 추적할 수 있어 딥페이크나 허위 정보 등 AI 생성물 악용 대응 기술로 꼽힌다.

카카오는 올해 하반기 이미지 모델 ‘카나나 콜라주’와 영상 모델 ‘카나나 키네마’에 신스ID 워터마크를 적용한다.

우선 카카오톡 카나나 템플릿’에 신스ID 워터마크를 적용할 계획이다. 카나나 템플릿은 카카오톡에서 주고받은 이미지를 활용해 AI로 짧은 영상을 손쉽게 만들 수 있는 기능으로, 카나나 키네마 모델을 기반으로 구현됐다. 카나나 템플릿으로 생성된 영상에 신스ID를 적용해 결과물이 편집 등 재가공되더라도 AI 생성 여부를 식별할 수 있게 한다.

올해부터 AI 기본법 시행과 함께 AI 생성물 표시제가 본격 도입된 가운데, 카카오는 법적 의무를 넘어 신스ID 기반 비가시적 워터마킹 기술까지 선제 적용해 AI 생성 콘텐츠의 투명성과 신뢰성 강화에 나선다는 방침이다.

카카오와 구글의 협력은 19일(현지시간) 미국 마운틴뷰에서 열린 구글 연례 개발자 행사 ‘구글 I/O’에서 발표됐다. 오픈AI와 AI 음성 생성 기업 일레븐랩스도 신스ID 기술 도입을 위해 구글과 협력한다고 발표했다.

김경훈 카카오 AI 세이프티 리더는 “AI 기술이 빠르게 확산되면서 AI 생성 콘텐츠의 투명성과 신뢰성 확보도 중요해지고 있다”며 “신스ID 적용을 시작으로 구글과 책임감 있는 AI 영역 기술 협력을 지속하며, 이용자가 안심하고 사용할 수 있는 안전한 AI 서비스를 제공할 계획” 이라고 말했다.

푸시미트 콜리 구글 딥마인드 과학·전략 이니셔티브 부문 부사장은 “업계 선도 기업과 파트너십을 통해 신스ID 기술을 더 많은 플랫폼에 확대 적용, 보다 투명한 디지털 생태계 구축을 향한 발걸음을 내딛고 있다”고 밝혔다.

[한세희 기자(hahn@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>