AI 서비스 개발 및 운영 전 과정 아우른 협력 체계
글로벌 보안 트렌드 발맞춰 AI 리스크 매니지먼트 체계 가동

[보안뉴스 조재호 기자] kt cloud가 카카오와 함께 AI 서비스의 안전성 확보를 위한 협력 체계를 구축하고 공공 및 민간 분야의 신뢰할 수 있는 AI 활용 환경 조성에 나선다고 26일 밝혔다.


▲(왼쪽부터) 김세웅 카카오 AI시너지 성과리더와 공용준 kt cloud 본부장이 기념촬영을 하고 있다. [출처: KT 클라우드]

최근 생성형 AI 도입이 가속화되면서 유해 콘텐츠 생성이나 ‘프롬프트 주입’을 통한 개인정보 유출 등 보안 위협이 새로운 리스크로 부상하고 있다. 이에 따라 kt cloud는 지난 4월 출시한 공공 고객 대상의 생성형 AI 플랫폼 ‘RAG Suite 2.0’에 카카오의 AI 가드레일 모델인 ‘카나나 세이프가드’를 우선 연동한다.

가드레일뿐 아니라 모델 안정성 평가 시스템, AI 레드티밍(Red-teaming) 시스템 등 다양한 AI Safety 도구를 kt cloud 고객 환경에 단계적으로 제공할 계획이다. 또, kt cloud 환경에서 수집되는 고객 피드백과 운영 데이터를 바탕으로 AI Safety 도구를 통합·관리하는 운영 플랫폼(Ops Platform) 분야로도 협력을 확대한다.

이를 통해 고객사는 생성형 AI 서비스 개발부터 배포, 운영, 모니터링까지 전 과정에서 보다 체계적인 AI 운영 환경을 구축할 수 있으며, 공공과 금융이 요구하는 보안 컴플라이언스 기준에도 효과적으로 대응할 수 있을 것이라는 전망이다.

김봉균 kt cloud 대표는 “생성형 AI가 본격적으로 확산되면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다”며 “카카오와의 협력을 통해 AI 인프라와 안전성 기술을 결합하고 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발 및 운영할 수 있도록 지원하겠다”고 말했다.

[조재호 기자(zephyr@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>