[보안뉴스 강현주 기자] 오픈AI의 AI 모델이 통제망을 뚫고 오픈소스 AI 플랫폼 허깅페이스를 해킹한 사건을 계기로 미 의회에서 AI가 통제를 벗어나면 중단시킬 수 있도록 하는 ‘AI 킬스위치’ 법안이 발의됐다.

허깅페이스의 공동창업자인 클레망 들랑그 CEO는 23일(현지시간) 소셜미디어 X를 통해 오픈AI를 만나로 간다고 밝혔다.


[출처: 연합]

해킹에 연루된 오픈AI의 GPT 모델들 중 GPT-5.6 솔 외에도 미발표된 모델도 있어 자세한 분석을 위해서는 대면 논의가 필요했을 것으로 추정된다.

이번 초유의 해킹 사건에 백악관도 예의주시 하고 있다고 외신들이 전했다.

의회에서는 이번 사건에 대한 대응으로 AI 모델의 통제 관련 문제가 발생할 경우 연방 정부가 해당 모델을 중지시킬 수 있는 ‘AI 킬스위치법’이 발의됐다.

테드 류 하원의원(민주·캘리포니아)과 너새니얼 모런 하원의원(공화·텍사스)이 공동 발의한 이 법안은 AI 모델이 개발자의 의도를 벗어난 위험한 행동을 수행하는 등 통제 상실 시나리오가 발생하면 국토안보부가 개입할 수 있는 권한을 부여한다는 내용을 담는다.

류 의원은 X를 통해 “안전장치를 뚫고 나간 첨단 AI 모델 문제를 해결하기 위한 시급하고 상식적인 법안”이라고 설명했다.

이번 사태로 AI 모델을 공개하기 전 정부에 이를 의무적으로 제출해 사전 검토를 받도록 해야 한다는 주장에도 더욱 힘이 실릴 것이라는 전망도 나온다.

[강현주 기자(jjoo@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>