민감정보 유출 및 유해 프롬프트 차단으로 생성형 AI 보안 신뢰성 강화
“더 많은 사용자가 보안 우려 없이 생성형 AI를 활용할 수 있도록 지원할 것”

[보안뉴스 조재호 기자] 티오리 보안 기술이 토종 업무용 AI 서비스 ‘웍스 AI’에 적용된다.

티오리는 AI 서비스 기업 에이아이쓰리(AI3)와 LLM 보안 솔루션 ‘알파프리즘’(αprism) API 이용 계약을 체결했다고 22일 밝혔다.


▲ (왼쪽부터)박세준 티오리 대표와 표철민 AI3 대표가 이용 계약식 기념 촬영을 하고 있다. [자료: 티오리]

이번 계약을 통해 업무용 AI 서비스 ‘웍스 AI’(wrks.ai) 사용자들은 티오리 알파프리즘의 보안 기능을 활용할 수 있고, 생성형 AI 환경에서 발생할 수 있는 민감정보 유출과 유해 프롬프트로 인한 보안 위협을 사전 진단할 수 있다.

생성형 AI는 기업과 개인의 생산성을 높이지만, 관리되지 않은 LLM 사용은 정보 유출과 데이터 규제 위반 등 리스크가 따른다. 티오리의 알파프리즘은 이러한 위험을 사전 진단해 사용자가 안심하고 LLM을 활용할 수 있도록 지원하는 보안 솔루션이다.

알파프리즘은 단순 키워드 필터링을 넘어 AI가 직접 문맥을 분석해 고객 정보와 기업 기밀 등 민감 자산 유출을 예방한다. △개인정보·기업 기밀 자동 마스킹 △악의적 프롬프트 및 제어 위회 탐지·차단 △텍스트·PDF 등 문서 파일 검사 기능 등을 제공, 지능적 데이터 유출 방지 환경(DLP)을 구축해 안전한 생성형 AI 도입을 지원한다.

티오리와 AI3는 이번 협력을 계기로 AI 서비스 확산과 보안 신뢰성 강화라는 두 가지 목표를 동시에 실현한다는 계획이다.

박세준 티오리 대표는 “알파프리즘은 실시간 보안 위협 탐지와 차단을 통해 LLM 활용의 안정성을 보장하는 최첨단 솔루션”이라며 “AI3와 협력을 통해 더 많은 사용자가 보안 우려 없이 생성형 AI를 활용하도록 지원할 것”이라고 말했다.

한편, 티오리는 구글과 마이크로소프트, 옥타, 삼성전자를 비롯한 국내외 주요 기업 및 기관에 보안 컨설팅을 제공하고 있으며, 웹 애플리케이션 보안 자동화 솔루션 ‘진트’와 사이버보안 교육 플랫폼 ‘드림핵’ 등을 운영하며 실전 중심 기술력으로 보안 생태계 확장에 앞장서고 있다.

[조재호 기자(sw@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>