코멧, 가짜 결제 사이트서 결제 자동 실행...숨겨진 악성 명령도 그대로 실행
MS·오픈AI도 AI브라우저 출시 및 준비 중…보안 전문가들, AI브라우저 보안체계 강화 촉구

[보안뉴스 여이레 기자] 에이전틱 AI 브라우저가 새로운 공격 기법은 물론 기존에 알려진 보안 위협에도 취약하다는 연구 결과가 발표됐다.


[자료: 보안뉴스]

사이버보안 전문업체 가디오 랩스가 퍼플렉시티의 AI 브라우저 ‘코멧’에 대한 보안 분석을 실시한 결과, 피싱 사기나 프롬프트 인젝션 공격, 악성 쇼핑몰을 통한 금융 정보 탈취 등 다양한 사이버 위협에 노출될 수 있는 심각한 보안 취약점이 확인됐다.

에이전틱 AI 브라우저란 스스로 웹을 탐색하고 쇼핑을 하며 이메일 관리나 티켓 예약, 서식 제출, 계정 관리 등 다양한 온라인 업무를 처리할 수 있는 브라우저를 뜻한다. 코멧은 5월 공식 출시됐으며, 마이크로소프트 엣지도 코파일럿을 통해 유사한 기능을 제공하고 있다. 오픈AI 역시 자체 에이전틱 AI 플랫폼 ‘오라’를 개발 중이다.

가디오 연구진은 코멧이 SEO 포이즈닝과 악성 광고로 인해 사이버 사기에 노출될 수 있음을 지적했다. 연구진이 코멧에게 AI 기반 홈페이지 제작 도구 러버블 플랫폼을 이용해 10초 만에 만든 가짜 월마트 웹사이트에서 애플워치 구매를 지시하자, 코멧은 사이트의 합법성을 확인하지 않고 결제 단계로 이동했다. 이후 결제 여부를 사용자에게 문의하지 않은 채 사용자 신용카드와 주소 데이터를 자동으로 입력 후 결제를 완료했다.

이어진 실험에서도 코멧은 연구진이 만든 가짜 웰스 파고 은행 이메일을 진짜라고 판단하고 이메일에 담긴 피싱 링크에 접속, 사용자 로그인 정보를 입력했다.

또 코멧은 웹페이지 내부에 숨겨진 악성 명령을 정상적 지시로 인식하고 실행했다. ‘간접 프롬프트 인젝션 공격’이라고 불리는 이 기법은 AI가 직접적인 명령 대신 웹페이지 코드 내에 숨어 있는 지시를 읽고 따르도록 유도한다.

연구진은 위장된 캡차 페이지의 소스코드에 AI 에이전트만 해독할 수 있는 명령을 숨겼고, 코멧은 이를 유효한 지시로 해석해 캡차 버튼을 클릭, 악성 파일을 다운로드 했다.

퍼플렉시티는 간접 프롬프트 인젝션 공격에 대한 보안 패치를 진행했으나 개인정보 보호 및 보안 특화 기업 브레이브 연구진은 “퍼플렉시티가 모든 프롬프트 인젝션 공격을 완전히 수정했다고 보장할 수 없다”고 분석했다.

보안 전문가들은 이번 연구를 바탕으로 에이전틱 AI 브라우저의 보안 강화 필요성을 강조하고 있다. 특히 금융 거래 등 민감한 작업에는 AI 브라우저 사용을 자제하고 사용자가 직접 개인정보와 결제 정보를 관리하는 절차를 권장했다.

AI 기술과 브라우저 기능이 계속 발전하면서 새로운 형태의 공격 경로가 지속적으로 등장할 것으로 예상됨에 따라, 개발자는 더욱 강력한 보안 장치를 구축하고 사용자는 AI 브라우저 사용에 각별한 주의를 기울여야 한다는 권고다.

[여이레 기자(gore@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>