AI 시스템 개발 과정 나타나는 취약점 식별, 컴플라이언스 제공
오픈AI 기업용 AI 에이전트 플랫폼에 통합

[보안뉴스 한세희 기자] 오픈AI가 AI 보안 플랫폼 기업 프롬프트푸를 인수한다고 9일(현지시간) 밝혔다.

프롬프트푸(Promptfoo)는 AI 시스템 개발 과정에서 나타나는 보안 취약점을 식별하고 수정할 수 있게 하는 AI 보안 플랫폼을 제공한다. 오픈AI는 자사 기업용 업무 보조 AI 에이전트 플랫폼 ‘오픈AI 프론티어’에 프롬프투푸의 기술을 적용할 계획이다.



기업들이 AI 에이전트 도입을 확대함에 따라 AI 에이전트에 대한 보안과 평가, 컴플라이언스 등이 중요해진 데 따른 것이다. 프롬프트푸의 기술을 이용, 기업이 업무 환경 전반에 걸쳐 AI 에이전트의 행동을 테스트하고 실무 배포 전 리스크를 탐지할 수 있게 한다. 또 투명하게 기록을 남겨 AI 활용에 대한 관리 감독과 책임성을 강화한다.

프롬프트푸는 이안 웹스터와 마이클 단젤로가 창업했으며, 현재 이들의 기술은 포춘500대 기업 중 25%에서 쓰이고 있다고 오픈AI는 밝혔다. 주요 오픈소스 AI 프로젝트의 레드팀 활동 등에도 널리 쓰인다.

스리니바스 나라야난 오픈AI B2B 부문 CTO는 “프롬프트푸는 기업 AI 시스템을 평가 및 보호하고 테스트하기 위한 깊은 전문성을 갖고 있다”며 “기업이 AI 시스템을 안전하고 신뢰성 있게 활용하도록 도울 것”이라고 말했다.

[한세희 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>