인공지능 안전연구소 방문해 국가 AI안전 생태계 조성 논의

[보안뉴스 강현주 기자] 배경훈 부총리가 올해 내 국가 AI안전 생태계 조성을 위한 종합 대책을 마련하겠다고 밝히며 현장을 살폈다.

배경훈 부총리 겸 과학기술정보통신부장관은 23일 인공지능 안전연구소(소장 김명주)를 방문해 산·학·연 전문가들과 간담회를 개최했다.


▲배경훈 과기정통부 장관이 23일 분당 인공지능안전연구소를 방문해 시연 설명을 듣고 있다. [자료: 과기정통부]

최근 AI를 활용해 사람의 음성, 얼굴들을 합성 또는 조작하는 딥페이크를 악용한 피해가 발생하고 있다. 다가올 범용인공지능(AGI), AI 에이전트 시대에는 우리가 예상하지 못한 새로운 유형의 피해가 발생할 우려가 있다. 현재의 AI 안전 확보 기술 현황 등을 공유하고, 정부의 정책 방향을 논의하는 것이 이번 현장 방문의 목적이다.

2023년 말부터 영국, 미국, 일본 등 주요국들은 다양한 AI 위험에 대응하기 위해 AI안전연구소를 설립했다. 우리나라도 글로벌 대응과 국가 차원의 AI 안전성 확보를 위해, 2024년 안전연구소를 설립했다. 안전확보 기술 선도와 모델 평가, AI안전 정책 전반에 대한 논의와 대응, 글로벌 협업 등을 수행하고 있다.

배경훈 부총리는 안전연구소의 AI 연구 평가 현장에서 △딥페이크 탐지 기술 △미래 AI 위험 연구, △AI 안전 평가 수행 △AI 안전 정책 및 글로벌 AI 협력 등을 수행하는 직원들을 격려하고 AI 안전과 관련된 의견을 청취했다.

최근 불거지고 있는 딥페이크의 악용 문제 해결과 AI 에이전트의 안전성·신뢰성 확보를 위해 산업계, 학계, 연구계 등 관련 전문가 15명과 함께, 딥페이크 탐지 기술과 AI 에이전트 안전성 평가에 대한 시연도 진행했다.

이어 AI 위험 대응을 위한 기술 개발 현황과 AI안전 생태계 조성 방안이라는 주제로 간담회를 진행했다. AI의 지속 가능한 혁신과 안전과 신뢰의 균형을 갖추면서 건전한 AI 환경을 구축하기 위함이다.

첫 번째 세션에서는 딥페이크 방지 기술와 AI 에이전트를 안심하고 사용할 수 있는 기술 개발 현황 및 대응 방향 등에 대해 논의했다. 두 번째 세션에서는 글로벌 AI 위험 대응 동향에 따른 우리나라의 체계적인 AI 위험 대응 및 안전 확보를 위해 (가칭)‘국가AI 안전 생태계 조성 종합계획’ 마련을 위한 추진 방향에 대해 논의하는 시간을 가졌다. 간담회 참석자들은 AI 안전 생태계를 조성하여 안전하고 신뢰할 수 있는 AI 개발‧활용하는 환경을 만들어야 한다는 데 공감했다.

배경훈 부총리는 “국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫 걸음”이라며 “AI안전이 모든 산업과 국민 생활에 녹아들 수 있도록 과기정통부가 관계부처, 유관기관 등과 함께 올해 내에 종합계획을 마련할 계획이다”라고 밝혔다.

[강현주 기자(jjoo@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>