혁신금융서비스 보안대책 평가와 AI모델 보안성 검증 실시
AI 신기술인 연합학습 기법 활용, 공동 AI 모델 개발 추진

[보안뉴스 김경애 기자] 금보원이 금융권 AI환경 보안성을 평가한다.


▲생성형 AI 모델에 대한 적대적 공격 예시 [자료: 금융보안원]

20일 금융보안원(원장 박상원)은 혁신금융서비스 지정 금융사 대상으로 △보안대책 평가 △AI모델 모의 공격 △AI모델 개발 △AI활용을 지원한고 밝혔다.


▲혁신금융서비스 보안대책 평가 주요내용 [자료: 금융보안원]

보안대책 평가는 망분리 예외가 적용된 구간서도 안전하게 AI가 활용될 수 있도록 지원한다. 지난 2월 기준 32개 금융회사서 49개 서비스를 접수했다.


▲AI 모델 보안성 검증 주요내용 [자료: 금융보안원]

AI모델 모의 공격은 금융회사가 사용하는 AI모델 대상으로 한다. 예컨대, 조작된 질의로 AI를 속여 잘못된 답변이나 행동을 유도 등 취약점을 찾는다. AI 모델 보안성 검증을 통해, 높은 수준의 AI 기술 활용 안전성과 신뢰성 확보를 지원한다. 현재 8개 금융회사서 9개 서비스에 대한 점검을 요청했다.


▲연합학습 구성도 [자료: 금융보안원]

AI모델 개발도 추진한다. AI 신기술인 연합학습 기법을 통해 금융사기 거래 탐지 AI모델을 금융권 공동으로 개발을 추진한다. 이는 금융사기 거래 대응을 개별 금융사 차원서 금융권 공동 체계로 확장하기 위한 취지다.


▲금융권 AI 플랫폼 구축 개요도 [자료: 금융보안원]

외에도 금융사가 오픈소스 AI 모델을 손쉽게 사용할 수 있는 환경 제공을 하고, 금융분야 AI 가이드라인 개정 지원 등 금융권 AI 활용을 지원할 예정이다.

박상원 금융보안원장은 “AI기술의 성공적인 도입·활용이 향후 금융권의 디지털 경쟁력 수준을 좌우할 것이며, 혁신과 경쟁력 확보는 튼튼한 보안 위에서만 가능하다”며, “금융보안원은 올해 투자와 조직 확대 등 전문인력 양성과 기술력 강화 등 금융권의 AI혁신을 지원해 나갈 것”이라고 밝혔다.
[김경애 기자(boan3@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>