AI 악용한 보안 위협 증가에 대응

[보안뉴스 한세희 기자] 앤트로픽이 자사 최첨단 인공지능(AI) 모델 ‘클로드 미토스’로 발견한 보안 취약점을 공유할 수 있도록 최근 허용했다고 월스트리트저널이 18일(현지시간) 보도했다.

미토스는 소프트웨어 취약점을 발견하고 공격을 실행하는 능력이 뛰어난 것으로 알려졌다. 이에 따라 앤트로픽은 ‘프로젝트 글래스윙’을 구성, 50곳 안팎 핵심 파트너 기업 및 기관에만 미토스 초기 접근 권한을 제공하고 있다.


[출처: 연합]

지금까진 이들 파트너와 기밀 유지 계약을 맺고, 미토스로 발견한 취약점 등을 외부에 공유하지 못하도록 했다. 하지만 최근 프로젝트 글래스윙 참여 조직에 미토스를 활용해 찾은 보안 위협을 외부에 공유할 수 있다고 통보하기 시작했다.

AI를 이용한 보안 위협이 커짐에 따라 앤트로픽이 취약점 공유 제약을 완화한 것으로 풀이된다.

앞서 민주당 조시 고다이머 하원의원은 “임박한 사이버 위협과 관련, 어떤 조직도 경고를 발령하거나 피해 완화 수단을 마련하거나, 믿을만한 이해관계자에게 정보를 알리는 일에 제약을 받아서는 안 된다”는 내용의 서한을 다리오 아모데이 앤트로픽 CEO에게 보냈다.

최첨단 AI 모델을 활용해 찾은 보안 취약점을 공유하면 국가 핵심 사이버 인프라가 위협에 대비해 방어 체계를 구축하는데 도움이 된다. 하지만 이런 정보가 공격자 수중에 들어가면 더 많은 데이터 유출과 사이버 위협으로 이어질 수 있다는 우려도 나온다.

미국 백악관은 최근 미토스에 접근 가능한 파트너를 늘이려는 앤트로픽의 계획에 제동을 걸었다. 최신 AI 모델 공개 전 정부 개입을 강화할 수 있게 하는 행정명령도 검토 중인 것으로 알려졌다.

[한세희 기자(hahn@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>