“주요국 협력, 국내서 AI 안전 활용 지원”

[보안뉴스 한세희 기자] 국가정보원이 미국, 호주 등 해외 사이버안보 기관과 함께 AI 설계 단계부터 보안을 내재화해 공급망 위헙을 줄여야 한다는 권고를 내놨다.

국가정보원은 5일 호주 신호정보부(ASD)와 미국 국가안보국(NSA) 등 주요 7개국 사이버안보기관들과 ‘AI 공급망 위험·완화방안’을 공동 발표했다.


▲‘AI 공급망 위험·완화방안’ 권고문 공동 발표 기관들 [출처: 국가정보원]

모델과 데이터, 인프라 등 공급자가 다수 존재하는 AI 공급망 특유의 복잡성 때문에 백도어 은닉 등 위험 요인이 늘고 있다는 판단에 따른 것이다. 호주 ASD가 권고문을 마련하고, 미국 NSA, 캐나다 사이버안보센터(CCCS), 싱가포르 사이버보안청(CSA), 뉴질랜드 사이버안보센터(NCSC-NZ), 일본 국가사이버총괄실(NCO), 영국 사이버보안센터(NCSC)가 동참했다.

이들은 AI를 배포 후 관리할 것이 아니라 설계 단계부터 보안을 내재화해야 할 시스템으로 간주해야 한다고 권고했다. 권고문엔 △데이터 △머신러닝 모델 △소프트웨어 △인프라·하드웨어 △제3자 서비스 등 5개 항목에서 AI 공급망 관련 위험요소 및 완화 방안이 담겨 있다.

품질 낮고 편향된 AI 데이터는 판단 오류를 초래할 수 있으므로, 출처를 신뢰할 수 있는 데이터를 사용해 위험요소를 완화켜야 한다. 머신러닝 모델은 악성코드 은닉이나 백도어 삽입 등으로 인한 보안 사고를 막기 위해 안전한 파일 형식 및 투명한 모델을 사용해야 한다.

AI 인프라에 대한 악성 펌웨어 주입 등 새로 나타나는 보안 위험을 막기 위해 기존 정보보안시스템 보안 원칙을 적용, 네트워크 분리와 자체 인증 등을 통해 철저하게 관리해야 한다.

국정원은 2023년 11월 ‘안전한 AI 개발 가이드라인’을 미국 및 영국 등과 공동 발표한 데 이어, 작년 12월 ‘AI 보안 가이드북’을 배포하는 등 지속적으로 AI 공급망 공격 위협을 강조하고 관련 대책을 제시해 왔다.

국정원 관계자는 “이번 권고문은 AI에 특화된 위험을 공급망 측면에서 체계적으로 정리하고, ‘사후대응’이 아닌 ‘사전예방’ 중심의 보안 관리 방향을 제시했다는 점에서 의미가 크다”며 “향후 주요국들과 파트너십을 바탕으로 국내에서 AI를 안전하게 활용할 수 있도록 적극 지원하겠다”고 밝혔다.

‘AI 공급망 위험ㆍ완화 방안’ 관련 세부 내용은 국정원 홈페이지에서 확인할 수 있다.

[한세희 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>