국내 AI 개발 제품 보안성 확보와 국가 AX 지원

[보안뉴스 강현주 기자] 한국정보통신기술협회(TTA·회장 손승현)는 국내 최초로 AI 모델의 생명주기 전반에 걸친 보안성을 검증하는 ‘AI 보안 시험서비스’를 1일부터 제공한다.

이번 서비스는 국내 AI 개발 제품의 보안성 확보를 지원하고, 국가 AI 대전환(AX)을 지원하기 위한 목적이다.


▲AI 보안 시험서비스 [자료: 한국정보통신기술협회]

‘AI 보안 시험서비스’는 AI 모델의 설계부터 데이터 수집 및 처리, 모델 개발, 시스템 구현, 배포 및 운영에 이르는 모든 단계에서의 보안 요구사항을 시험하고, 그 결과를 공신력 있는 성적서 및 결과서로 발급하는 서비스이다.

기존의 보안 솔루션으로는 AI 모델의 특수성을 반영한 보안 위협에 효과적으로 대응하기 어렵다. 이 서비스는 AI 모델에 특화된 보안 요구사항 만족 여부를 시험한다. 요구사항은 △데이터 수집 및 전처리 단계에서의 개인정보 및 민감정보 비식별화, 데이터 오염 방지 △학습 단계에서의 적대적 공격 방어, 모델 위·변조 방지 △배포 및 운영 단계에서의 API 보안, 모델 접근 제어, 무결성 검증 등이다.

TTA는 시험절차의 적합성을 검증하기 위해 올해 5월부터 6월까지 국내 AI 제품 3종(비전·음성·언어 모델)을 대상으로 파일럿 시험을 진행하여 시험절차를 개선 및 확정했다. 올해 4월 TTA 단체표준 과제(표준과제명: ‘AI 모델 보안 검증을 위한 공통 보안 요구사항’)를 제안하여 표준화(PG504, 응용보안·평가인증) 진행 중이다.

TTA는 향후 더 높은 수준의 보안성을 보장하는 시험서비스를 제공할 방침이다. 이에 시험 영역 확대 및 AI 보안 영향도 수준에 따른 등급(Basic·Advanced·Industry-Specific)을 설계해 기업 맞춤형 검증 기준 개발 및 시험서비스 고도화를 추진할 계획이다.

손승현 TTA 회장은 “AI 기술의 안전한 확산을 위해 기술 발전과 보안에 대한 신뢰 확보가 필수적”이라며 “AI 보안 시험 서비스를 통해 국내 AI 산업 전반의 보안 수준을 한 단계 끌어올리고, 궁극적으로는 우리나라의 AI 3대 강국 실현 및 신뢰할 수 있는 AI 혁신 생태계 조성에 기여하겠다”고 밝혔다.

[강현주 기자(jjoo@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>