에이전틱 AI와 LLM 기반 애플리케이션에 런타임 보안 제공

[보안뉴스 원병철 기자] AI는 현대 비즈니스 역사상 가장 빠르게 성장하는 기술 중 하나로, 산업 혁신과 운영 최적화를 주도하고 있지만, 동시에 새로운 보안 격차와 위험, 취약점도 발생시키고 있다. 맥킨지(McKinsey)에 따르면 현재 기업의 78%가 최소 1개 이상의 비즈니스 기능에 AI를 활용하고 있으며, 이는 2년 전 55%에서 크게 증가한 수치다. 그 결과 2025 탈레스 데이터 위협 보고서에 따르면, 이들 기업의 73%가 신규 또는 기존 예산으로 AI 전용 보안 도구에 투자하고 있다.


[자료: 탈레스]

탈레스는 기업 AI 에코시스템의 핵심부터 엣지까지 보호하는 AI Security Fabric의 첫 번째 핵심 기능을 공개했다.

탈레스 AI Security Fabric - LLM 기반 앱, 데이터 및 ID 보호
탈레스 AI Security Fabric으로 기업은 다음과 같은 이점을 얻을 수 있다.
·AI 기반 성장을 안전하게 가속화: 프롬프트 인젝션, 데이터 유출, 모델 조작, 민감정보 및 규제 대상 데이터 노출 등의 위험을 완화하면서 혁신과 확장을 통해 AI의 비즈니스 가치를 극대화한다.
·데이터, 애플리케이션, ID를 엔드투엔드로 보호: 에이전틱 AI와 생성형 AI에 통제된 데이터셋 접근 권한을 부여하고, 클라우드와 온프레미스 환경 전반에 런타임 보안을 배포하며, 최소한의 통합으로 모든 AI 인터랙션을 안전하게 보호한다.
·엔터프라이즈급 표준 준수 보안: OWASP Top 10의 핵심 위험을 직접 해결하는 검증된 보안 역량을 활용해 비용 손실이나 평판 훼손으로 이어질 수 있는 사고를 사전에 방지한다.

현재 제공되는 첫 번째 기능은 다음과 같다.
·AI 애플리케이션 시큐리티: LLM을 사용하는 자체 개발 애플리케이션을 보호하는 보안 솔루션이다. 프롬프트 인젝션, 탈옥, 시스템 프롬프트 유출, 모델 서비스 거부 공격, 민감정보 유출, 콘텐츠 조정 등 AI 특화 위협에 대한 실시간 보호를 제공한다. 클라우드 네이티브, 온프레미스, 하이브리드 등 모든 아키텍처에 유연하고 원활하게 배포할 수 있다.
·AI 검색 증강 생성(RAG) 시큐리티: 암호화 및 키 관리를 포함한 포괄적인 데이터 보호 솔루션을 통해, 민감한 구조화/비구조화 기업 데이터가 검색 증강 애플리케이션에 수집되기 전에 이를 발견하고 보호한다. LLM과 외부 데이터 소스 간의 통신을 안전하게 보호한다.

탈레스 사이버 시큐리티 제품 사업 부문 수석 부사장 세바스티앙 카노(Sebastien Cano)는 “AI가 비즈니스 운영 방식을 근본적으로 바꾸면서, 기업들은 에이전틱 AI와 생성형 AI 애플리케이션의 고유한 위험에 대응하는 전용 보안 솔루션이 필요하다”라고 말했다.

“탈레스 AI Security Fabric은 운영 복잡성을 최소화하면서 AI 애플리케이션을 보호하는 전문 도구를 제공합니다. 수십년간 축적된 보안 전문성을 바탕으로 탈레스는 기업이 민감 데이터, 애플리케이션, 사용자 인터랙션을 보호하면서 안심하고 AI를 확대 적용할 수 있도록 지원합니다.”

한편, 탈레스는 2026년 AI Security Fabric을 확장해 데이터 유출 방지, MCP(Model Context Protocol) 보안 게이트웨이, 엔드투엔드 런타임 액세스 제어 등의 새로운 런타임 보안 기능을 추가할 예정이다. 이를 통해 데이터 흐름 전반의 보호를 강화하고, 에이전틱 AI의 데이터 접근을 보호하며, 사용자-모델-데이터 소스 간 인터랙션을 통합적이고 컴플라이언스에 부합하는 방식으로 관리할 수 있다. 더 자세한 내용과 일부 도구의 평가판은 탈레스 AI Security Fabric 웹사이트에서 확인할 수 있다.

[원병철 기자(boanone@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>