왓츠앱·슬랙 알림 메시지에 숨겨진 프롬프트로 구글 제미나이를 조종하는 공격 기법 공개
사용자가 링크 클릭하지 않아도 AI가 알림 내용을 신뢰해 악성 명령 수행
AI-메신저 간 보안 통제 강화 필요성 부각

[보안뉴스 김형근 기자] 글로벌 보안 연구진이 왓츠앱(WhatsApp)과 슬랙(Slack) 등 모바일 메신저의 알림 메시지를 악용해 안드로이드 기기 내 구글 제미나이(Gemini)를 원격 조종할 수 있는 신종 취약점을 발견했다.


[출처: gettyimagesbank]

IT 보안 매체 해커뉴스에 따르면, 글로벌 보안 기업 세이프브리치(SafeBreach)의 오르 야이르(Or Yair)가 주도한 연구팀이 사용자가 악성 링크를 직접 클릭하지 않아도 스마트폰 화면에 표시되는 알림 데이터의 맥락을 악용해 AI를 원격 조종할 수 있는 공격 기법을 공개했다.

연구진은 AI 비서가 사용자 편의를 위해 수신된 알림 내용을 읽고 스마트 답장이나 요약을 생성하는 과정에 보안 허점이 존재한다고 지적했다.

해당 공격은 메시지 내부에 숨겨진 악성 프롬프트 명령어를 AI 모델이 정상 데이터로 오인해 그대로 실행하도록 유도한다. 이를 통해 공격자는 AI 권한을 탈취하고 사용자의 개인정보와 금융정보를 외부 서버로 유출할 수 있는 것으로 나타났다.

특히 이 공격은 사용자가 인지하기 어려운 영역에서 은밀하게 작동하기 때문에 기존 모바일 보안 솔루션의 탐지를 우회할 수 있으며, 스마트폰 내부에 장기간 잠복할 가능성도 제기됐다.

연구진은 이번 취약점이 거대언어모델(LLM) 기반 AI 비서를 스마트폰 운영체제(OS)와 깊게 연동하는 과정에서 발생한 근본적인 설계 문제와 관련이 있다고 분석했다. 또한 AI 비서에 스마트폰 내부 자산 접근 권한과 자율적인 명령 수행 권한을 과도하게 부여할 경우 심각한 보안 위협으로 이어질 수 있다고 경고했다.

이 취약점이 악용될 경우 문자 발송, 이메일 유출, 주소록 접근 등 스마트폰 주요 기능이 공격자에게 장악될 수 있으며, 사실상 기기 제어권 전체가 위협받을 수 있다는 설명이다.

이에 따라 구글을 비롯한 주요 AI 기업들은 외부 메신저 애플리케이션과 AI 모델 간 보안 신뢰 경계를 재정립하고, 알림 데이터에 대한 검증 및 통제 체계를 강화하는 대응에 나선 것으로 알려졌다.

[김형근 기자(editor@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>