올해 구축한 데이터셋 및 평가 가이드라인 전문가 검증 착수
김명주 소장 “국민 체감 가능한 AI 안전 기반 마련”

[보안뉴스 조재호 기자] 한국전자통신연구원(ETRI) 인공지능안전연구소(AISI)가 자체 구축한 AI 안전성 평가 방안 초안을 처음으로 공개하며 국가 AI 안전 생태계 확산에 나섰다.


[자료: ETRI]

AISI는 17일 그래비티 조선 서울 판교 호텔에서 국내 AI 안전 분야 전문가들이 참석한 가운데 ‘AI안전컨소시엄 합동회의’를 개최했다. 이번 회의에선 △국제 인공지능(AI) 안전연구소 네트워크 활동 현황 △AISI의 1년 간 연구 성과 △AI안전 컨소시엄 분과별 추진 결과와 향후 계획 등이 논의됐다.

이날 회의의 핵심은 AISI가 올해 구축한 ‘데이터셋 및 안전성 평가 방안 초안’ 공개다.

AISI는 AI 파운데이션 모델의 안전성과 신뢰성을 평가하기 위한 독자 기술 개발을 지속해 왔다. 이날 공개된 초안에 대해 전문가 검토를 거쳐 실효성을 높여 국민이 체감할 수 있는 AI 안전을 확보하고, 국가 AI 전략인 ‘AI 기본사회’ 실현을 뒷받침한다는 방침이다.

글로벌 AI 안전 네트워크 재편 대응 국제 협력 동향에 대한 논의도 이뤄졌다. AISI는 이달 초 미국 샌디에이고에서 열린 ‘제2회 글로벌 AI안전 네트워크 회의’ 결과를 공유했다. 연구소 명칭 변경과 영국의 의장국 수임 등 국제 네트워크의 운영체계 변화에 발맞춘 국내 대응 방안이 제시됐다.

AI안전 컨소시엄은 향후 더 많은 기업과 기관의 참여를 유도해 국내 AI 안전 생태계를 확장하고, AI 안전 정책·정책 아젠다를 적극 발굴할 예정이다. 이 컨소시엄은 네이버, 삼성전자, SK텔레콤 등 산업계와 학계, 연구계 등 24개 전문 기관이 참여해 국내 AI 안전 연구의 구심점 역할을 하고 있다.

김명주 ETRI AISI소장은 “내년은 국가 AI 정책과 글로벌 거버넌스가 복잡하게 얽히는 전환점이 될 것”이라며 “ETRI가 중심이 되어 굳건한 AI 안전 생태계를 구축하고, 국민 안전과 글로벌 경쟁력을 동시에 확보하겠다”고 말했다.

[조재호 기자(sw@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>