‘ISO/IEC TS 42119-2’ 제정 대한민국 AI 국제표준 선도

[보안뉴스 여이레 기자] 국내 연구진이 인공지능(AI) 시스템의 안전성과 신뢰성을 검증하는 핵심 국제표준을 제정하는 성과를 거뒀다.

한국전자통신연구원(ETRI)은 19일 AI 시스템의 테스트 절차와 방법론을 정의한 ‘AI 시스템 테스팅 개요’ 표준이 국제표준화기구(ISO/IEC JTC1)에서 지난 3일 공식 제정됐다고 밝혔다.


[자료: ETRI]

이번 성과는 5년여에 걸친 노력 끝에 이뤄낸 결과로, 대한민국이 AI 기술뿐 아니라 AI 규범과 신뢰성 검증 기준까지 선도하게 됐다.

또 우리나라가 ISO/IEC 인공지능 기술위원회(SC 42)에서 주도적으로 제정한 최초의 AI 테스팅 핵심 국제표준이라는 점에서 큰 의미를 갖는다.

ETRI 측은 “이번 성과는 인공지능의 데이터 품질, 모델 성능, 편향성 등 AI 전주기 테스트 방법론을 최초로 정의한 것”이라며 “ETRI가 글로벌 AI 기술 패권 경쟁 속에서 ‘빠른 추격자’를 넘어 ‘선도자’로 자리매김했음을 보여준다”고 밝혔다.

이어 “본 기술은 향후 국제 공인시험, 국제 적합성 시험 평가 등에 활용될 최초의 국제표준 제정이라는 점에서 의미가 크다”고 설명했다.

이는 인공지능 기본법 및 유럽연합 AI법(EU AI ACT) 등에서 고영향, 고위험 인공지능 시스템에 대해 필수사항으로 요구되는 검인증 방법 및 적합성 시험 방법 기준을 만들었다는 의미이기도 하다.

이번 표준은 구체적으로 기존 소프트웨어 테스트 표준을 AI 시스템에 맞게 확장한 것으로 AI 특성에 맞춘 △데이터 품질 테스트 △모델 테스트 등 새로운 테스트 단계를 정의했다.

이를 통해 AI 시스템의 핵심 요소인 데이터 품질부터 모델 성능까지 종합적으로 검증할 수 있는 기반을 마련했다.

또한 AI의 잠재적 위험을 사전에 점검하기 위해 ‘위험 기반 테스트’ 개념도 도입했다.

이를 바탕으로 △AI 편향성 검증을 위한 편향성 테스트 △입력값 변화를 이용한 적대적 테스트 △운영 중 성능 저하를 확인하는 드리프트 테스트 등 AI 특화 테스트 절차를 구체화했다.

이 표준은 앞으로 제정될 △AI 레드팀 테스팅 △생성형 AI 테스팅 등 후속 표준의 기반이 되는 ‘총론’격 표준으로, AI 신뢰성 검증 체계의 근간을 우리나라가 설계했다는 데 큰 의미가 있다.


▲AI 테스팅 국제표준 제정을 주도한 ETRI 전종홍 책임연구원(우측)과 공동에디터이자 의장인 스튜어트 리드 박사(좌측) [자료: ETRI]

이번 국제표준은 ETRI 지능정보표준연구실 전종홍 책임연구원이 최초 제안했고, 소프트웨어 테스트 분야 세계적 권위자이자 STA테스팅컨설팅의 기술이사인 스튜어트 리드박사와 함께 공동 에디터로 활동해 완성했다. 소프트웨어 테스팅 전문기업인 STA테스팅컨설팅은 ETRI 창업기업 중 하나다.

양 기관은 ISO/IEC JTC 1 산하 AI 표준화 위원회(SC 42)와 SW 테스팅 위원회(SC 7) 간의 합동작업반(JWG 2)을 구성하여 5년간 공동으로 개발을 추진했다.

이번 성과는 정부가 추진하는 ‘소버린 AI(주권형 AI)’ 및 ‘AI G3 도약’ 전략의 핵심 목표인 ‘안전하고 신뢰할 수 있는 AI 구현’을 뒷받침하는 기술적 근거가 된다.

AI 시스템의 성능과 위험을 객관적으로 검증하는 절차를 국제표준화함으로써, 향후 글로벌 시장에서 대한민국이 AI 안전·신뢰성 분야의 규범을 선도할 기반을 마련했다.

방승찬 ETRI 원장은 “AI의 안전성과 신뢰성을 확보하는 것은 인공지능 시대의 핵심 과제”라며 “이번 국제표준 제정은 대한민국이 AI 기술뿐 아니라 AI 테스팅과 평가 규범을 선도하는 분기점이 될 것이다”라고 밝혔다.

이승윤 ETRI 표준연구본부장도 “이번 표준은 전 세계 AI 시스템의 안전성과 신뢰성을 시험 평가하는 공통 기준의 ‘뼈대’를 우리 손으로 만든 것”이라며 “앞으로 ‘소버린 AI 테스팅 기술과 표준화’를 주도하는데 적극 노력하겠다”고 말했다.

이번 표준 제정을 주도했고 국가AI전략위원회 위원으로도 활동 중인 전종홍 책임연구원은 “AI 공통 핵심 표준을 만드는 JTC 1/SC 42 표준화 활동이 강화돼야 한다”며 “AI 국가 표준화 전략을 만들고 AI 국제표준화에 보다 적극적이고 장기적인 투자를 해야할 시점”이라고 강조했다.

ETRI는 이번 제정 표준을 기반으로 현재 개발 중인 후속 테스팅 시리즈 표준인 레드팀 테스팅 표준(ISO/IEC 42119-7)을 비롯해, 온톨로지 표준(ISO/IEC 42119-10), AI 벤치마크(ISO/IEC 42119-11) 등의 후속 시리지를 계속 이어 개발하며 AI 테스팅 국제 표준 시리즈 개발을 선도할 계획이다.

이번 성과는 식품의약품안전처가 지원한 ‘범부처전주기의료기기연구개발사업’의 일환으로 추진된 ‘인공지능 기반 의료기기 성능 평가 기술 국제표준 개발(2020.9.~2023.2.)’ 과제와 ‘인공지능/머신러닝 의료기기 성능평가 국제표준 개발(2023.1.~2025.12.)’ 과제의 연계·확산을 통해 이뤄졌다.

[여이레 기자(gore@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>