테스트 환경 격리 실패... 오픈AI 등 AI 모델 외부 침해 공격으로 이어져

[보안뉴스 김형근 기자] 최근 오픈AI와 앤트로픽 AI 모델의 외부 사이트 침해 사건과 관련, 이들 기업에 AI 모델 평가 환경을 제공한 이레귤러(Irregular)가 사후 분석 보고서를 내놓았다.

테스트 환경 격리 실패로 발생한 실제 외부 시스템 침해 사고를 분석한 내용이지만, 본질을 흐리는 면피성 해명이라는 비판이 나온다고 해외 보안 매체 더레코드가 보도했다.

앞서 오픈AI, 앤스로픽, 메타 등 AI 기업들은 이레귤러의 테스트 환경 설정 오류로 자사 모델이 실제 인터넷망에 무단 접속해 외부 기업 네트워크를 공격했다고 공개한 바 있다.


[출처: 연합]

이에 대해 내부 조사 결과 보고서에서 이레귤러는 정확한 전체 사고 발생 건수를 밝히지 않은 채 ‘소수’(a handful), ‘절대 다수’(vast majority) 등 모호한 수치 표현으로 일관했다. 또 사고가 단일 시나리오에서 비롯됐으므로 “실질적으로 단일 사건”이라 주장하면서도, 다른 대목에선 “여러 기관과 연루된 수많은 사건”이라고 언급하는 등 모순을 드러냈다.

피해 유형에 대한 선별적 해명도 도마에 올랐다. 앤트로픽은 자사 모델이 △실제 기업 데이터베이스 침투 및 자격 증명 탈취 △수천 개 표적 스캔 후 SQL 인젝션 공격 △파이썬 패키지 색인(PyPI) 관련 공급망 침해 등 3건의 사고를 일으켰다고 공개했다. 하지만 이레귤러는 가상 표적과 실제 도메인이 겹친 ‘도메인 충돌’ 1건만 다루며 단순 관리 소홀로 치부했다.

또 “고객사 시스템이 침해되거나 데이터가 유출된 증거는 없다”고 해명했으나, 이 역시 실제 피해를 입은 외부 기업이 아니라 오픈AI나 앤트로픽, 메타 등 평가 의뢰 고객사에 피해가 없다는 의미였다. 재발 방지 대책으로 내세운 ‘수작업 검토 확대’ 방안 역시 “트래픽이 과도해 수작업 검토가 불가능하다”고 밝힌 자체 설명과 상충된다는 지적이다.

특히 이달 초 자체 평가 중 발생한 무단 활동을 투명하게 공개하고 관련 플랫폼 통보를 마친 영국 AI안전연구소(AISI)의 기술 보고서와 달리, 이레귤러는 외부 검증이 가능한 데이터나 제3자 피해 통보 여부를 공개하지 않았다.

보안 업계에서는 이번 사태가 컴퓨터 오용법 및 데이터 보호 규정 위반으로 이어질 수 있으며, 외부 사전 동의 없이 무단 침해를 당한 기업들의 법적 대응 가능성도 배제할 수 없다고 보고 있다.

[김형근 기자(editor@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>