이 회사는 오는 11일부터 13일까지 도쿄에서 열리는 일본 최대 IT 전시회 ‘인터롭 도쿄 2025 - AI 현실로 들어오다’에서 AI 및 대규모언어모델(LLM) 인프라 보안 솔루션을 발표한다. AI 방화벽 및 예측 성능(Predictive Performance) 기능을 시연할 예정이다.

▲A10 네트웍스가 AI 및 LLM 인프라 보안 솔루션 선보인다. [자료: A10 네트웍스]
전 세계 조직들이 AI 애플리케이션을 빠르게 도입하고, AI에 최적화된 데이터센터를 구축하고 있다. 이에 실시간 응답을 제공하는 초고성능 AI 및 LLM 추론 환경과 이를 보호할 새로운 사이버 보안 솔루션이 필요하다.
A10은 API 또는 URL을 통해 LLM을 노출하는 환경에 최적화된 AI 방화벽을 발표했다. 맞춤형 LLM과 오픈AI, 앤스로픽 등 상업용 솔루션에서 개발된 LLM을 모두 지원한다. 엣지 최적화 아키텍처와 GPU 지원 하드웨어를 기반으로 구축된 기능이다. 고성능으로 AI 및 LLM 인프라를 보호하며, 기존 모든 인프라에 보안 강화를 위해 적용할 수 있다.
이 기능을 통해 고객들은 자사 AI 추론 모델이 취약점에 노출됐는지 테스트할 수 있다. A10의 ‘LLM 보호 기술’을 활용해 취약점을 제거할 수 있다. 간편하게 프롬프트에서 요청 및 응답 트래픽을 검사하고 보안 정책을 적용해 해커가 악의적 명령어를 주입하는 프롬프트 인젝션과 민감 정보 노출을 탐지할 수 있다.
A10이 이번에 선보인 기능은 조기 경보 시스템처럼 작동해 네트워크 성능 이슈를 조기에 감지할 수 있다. 단기적 혼잡이나 용량 부족에 선제 대응하도록 도와 예기치 못한 다운타임을 방지하고 최적의 네트워크 성능을 계획하게 해준다. 예측 성능 기능은 ‘GPU 기반 A10 어플라이언스’에서 실행되며, 방대한 데이터를 신속하게 분석하고 이상 징후를 사전에 인지할 수 있도록 지원한다.
드루파드 트리베디 A10 네트웍스 CEO는 “기업들은 AI 및 LLM 추론 모델을 온프레미스 또는 클라우드 환경에 빠르게 도입하고 있어 지연 시간과 보안, 운영 복잡성이라는 세 가지 과제를 해결할 수 있는 새 기능이 필요하다”며 “A10은 AI 및 LLM 환경에서 복원력과 고성능, 보안을 제공하기 위한 역량을 지속적으로 높일 것”이라고 말했다.
[강현주 기자(jjoo@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>