구글 클라우드 GTIG, 최신 AI 위협 추적 보고서 발표
AI 활용한 제로데이 위협 첫 사례 포착

[보안뉴스 한세희 기자] 구글이 인공지능(AI)을 악용한 제로데이 취약점 공격을 차단했다고 밝혔다.

구글 위협정보그룹(GTIG)은 11일(현지시간) 발표한 최신 AI 위협 추적 보고서에서 “대규모 취약점 공격을 준비하던 범죄 집단이 AI의 도움을 받아 개발한 것으로 추정되는 실제 작동 가능한 제로데이 취약점 공격 코드를 관찰했다”며 “이는 위협 행위자가 AI를 사용해 제로데이 개발에 성공한 최초 사례”라고 밝혔다.

최근 보안 취약점 탐지에 뛰어난 성능을 보이는 AI 모델들이 등장함에 따라 이 같은 제로데이 공격에 AI가 악용될 수 있다는 우려가 현실로 나타난 것이다.


▲AI 활용 제로데이 공격 흐름도 [출처: 구글]

이 공격 코드엔 AI 사용을 뒷받침하는 명확한 흔적들이 있었으나, 최근 관심을 모은 앤트로픽 ‘미토스’를 활용해 개발된 것은 아니라고 구글은 판단했다.

해커들은 소프트웨어 취약점을 이용해 ‘2단계 인증’을 우회하려 한 것으로 조사됐다. GTIG는 이 취약점을 개발사에 통보해 보안 패치를 완료, 위협을 차단했다고 밝혔다.

또 구글은 “북한과 중국 지원을 받는 위협 행위자들도 취약점 분석과 공격 코드 개발에 AI를 적극 활용하고 있다”고 밝혔다.

실제로 북한 APT45 그룹은 AI를 활용해 수천개 공격 코드를 검증하고, 공격 자산을 대규모로 구축한 것으로 조사됐다. 프롬프트를 수천 건 반복 전송해 다양한 취약점을 분석하고, 공격 코드를 검증하는 자동화 연구를 진행하고 있다는 징후를 찾았다는 설명이다.

오픈클로 같은 에이전틱 AI 도구를 이용한 자율적 해킹 공격, 대규모 AI 서비스를 공격에 학용하기 위한 초거대언어모델(LLM) 권한 확보 시도 등도 주의가 필요하다고 GTIG는 밝혔다.

[한세희 기자(hahn@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>