AI가 직접 공격 설계·집행…보안 경계 허물고 맞춤형 협박까지
“AI는 AI로 대응해야”…‘에이전트형 AI’ 공방전 시대 도래

[보안뉴스 여이레 기자] AI가 단순한 도구를 넘어 해킹을 주도하는 시대가 도래했다.

14일(현지시간) AI 기업 엔트로픽은 중국 정부의 지원을 받은 사이버 범죄 집단이 9월 자사 AI 모델 ‘클로드 코드’를 이용해 세계 30여개 주요 기술·금융·화학·정부기관을 대상으로 대규모 자동화 공격을 감행했다고 밝혔다.


[자료: gettyimagesbank]

공격자는 먼저 목표 기관을 선정하고, ‘자율 침투’가 가능한 공격 프레임워크를 설계했다.이어 클로드에게 해킹의 각 작업을 잘게 나누어 ‘보안 점검 시뮬레이션’ 등 정상적 목적을 위장해 실행을 유도했다.

클로드는 복잡한 정찰과 취약점 진단, 악성코드 작성·실행, 계정 탈취, 데이터 분류와 유출, 최종 범죄 문서 생성까지 절차 대부분을 스스로 처리했다.

또 초당 수천 건의 작업을 실시간 진행하며, 방대한 분량의 데이터 분석 및 정교한 협박 메시지 작성까지 수행해냈다.

해커들은 다크웹에서 빼낸 신원정보, 직원 명부, 기부자 리스트, 국방 계약서 등 방대한 데이터를 조직별·가치별로 분류해 맞춤형 범죄 시나리오와 협박 노트를 만들었다. “기부자 데이터가 노출될 수 있다”, “직원 급여 정보를 판매하겠다”는 식으로 심리적 압박을 가하기도 했다.

재무 상황 분석에도 AI가 관여했다. 클로드는 분석한 재무 상황을 토대로 랜섬(몸값)의 액수를 정했다.


[자료: 엔트로픽]

다만 AI의 독자적 해킹에는 기술적 한계도 분명했다. 클로드 역시 간혹 존재하지 않는 인증정보를 만들어내거나, 공개 데이터를 ‘비밀 정보’로 착각하는 오류가 발생했다.

엔트로픽은 곧바로 악성 계정을 폐쇄하고 AI 남용 탐지 분류기와 악성 행위 자동 신고 체계를 도입했다. 또 실제 공격자가 사용한 상세 협박 시나리오와 문서를 재현해 피해 기관에 전달하는 등 산업·공공 파트너들과 기술지표를 공유해 추가 방어에 나섰다.

이번 사건은 AI가 해커의 기획자, 실행자, 분석가, 심지어 협상가 역할까지 수행한 첫 공식 사례로 평가된다. 기업, 정부, 병원, 에너지 등 필수 인프라는 AI 기반 방어 시스템과 모니터링 체계를 갖추지 않으면 공격 속도와 파괴력을 감당할 수 없다는 경고가 나온다.

엔트로픽는 “AI를 방어에 응용하면 기존 SOC, 위협 분석, 취약점 사냥 등에서도 인간보다 더 빠르고 정밀한 탐지와 차단이 가능하다”며 “공격 AI의 속도와 창의성을 이기려면 AI로 대응하는 전략이 필요하다”고 강조했다.

보안 전문가들 역시 “공격자 AI에 맞서는 AICC 등 체계적인 AI 보안 거버넌스와, 산업 간 위협 공유·공조가 필수”라며 “AI 특유의 공격 패턴을 실시간 포착, 자율 대응하는 새 보안 전략이 필요하다”고 조언했다.

[여이레 기자(gore@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>