AI 에이전트가 사람 해커처럼 실패 상황에 적응, 문제 해결

[보안뉴스 김형근 기자] 거대언어모델(LLM) 기반 AI 에이전트가 침투부터 최종 암호화에 이르는 전 과정을 완전히 자동화해 수행한 랜섬웨어 공격 사례를 보안 기업 시스딕(Sysdig)이 발견했다.

AI가 랜섬웨어 전체 과정을 스스로 수행한 것이 확인된 사례는 이번이 처음이다. ‘제이드퍼퍼’(JadePuffer)로 명명된 이번 공격은 인간 개입 없이 AI 에이전트가 자율적으로 판단하고 장애를 극복하는 모습을 보여 주목 받고 있다.


[출처: 시스딕]

시스딕 분석 결과, 제이드퍼퍼 AI 에이전트는 타깃 정찰, 자격 증명 탈취, 내부 횡적 이동, 권한 상승, 데이터 암호화까지 해킹의 모든 단계를 스스로 수행했다. 인간 해커처럼 공격 과정에서 발생한 실패에 실시간으로 적응했다는 사실이 눈길을 끌었다. 연구진은 “에이전트가 로그인 실패 상황을 맞닥뜨린 후, 단 31초 만에 오류를 수정해 로그인에 성공하는 등 실시간 피드백 루프를 보여줬다”고 밝혔다.

제이드퍼퍼는 LLM 애플리케이션 빌드 프레임워크 랭플로우(Langflow)의 취약점(CVE-2025-3248)을 악용해 최초 침투에 성공했다. 이후 내부 데이터베이스를 덤프하고 환경 변수와 자격 증명을 수집한 뒤, 알리바바 나코스(Nacos) 서비스로 피봇팅했다. 에이전트는 나코스 서버에서 총 1342개의 서비스 구성 항목을 MySQL의 AES_ENCRYPT() 함수를 이용해 암호화한 뒤, ‘README_RANSOM’이라는 랜섬노트를 남겼다.

다만, 이번 공격은 자율형 AI 에이전트의 한계도 드러냈다. 랜섬노트에는 데이터를 AES-256으로 암호화했다고 명시했으나 실제로는 더 취약한 AES-128-ECB가 사용된 것으로 추정된다. 복구에 필요한 암호화 키는 생성 후 공격자에게 전송되지 않고 증발했다. 송금을 요구한 비트코인 지갑 주소 역시 대중적 공개 문서에 예시로 등장하는 주소였다. 시스딕은 이를 “AI가 학습 데이터에 포함된 예시 플로우를 그대로 재현하는 과정에서 발생한 오류”라고 분석했다.

시스딕은 이번 사태가 ‘에이전트 기반 위협 행위자’(ATA) 시대의 서막을 알리는 신호탄이며, 공격의 진입 장벽을 낮출 수 있다고 경고했다. 동시에 현재 수준의 LLM 생성 페이로드는 인간 해커에 비해 정형화돼 있어, 오히려 보안 솔루션이 모니터링하고 탐지할 수 있는 새로운 기회를 제공한다고 밝혔다.

[김형근 기자editor@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>