프롬프트 인젝션·악성 명령어 삽입 등 신종 위협 양방향 원천 차단
무분별한 섀도우 AI 이용 식별하고 부서별 활용 대시보드 시각화 제공

[보안뉴스 조재호 기자] 이지서티가 생성형 AI 보안 플랫폼 ‘이지로 AI 방화벽’(EZRO-AI FIREWALL)을 정식 출시했다고 밝혔다. 이번 신제품은 외부 공격자로부터 사내 구축 LLM을 보호하는 기능과 임직원의 외부 AI 서비스 이용을 제어하는 보안 체계를 하나의 플랫폼으로 통합한 것이 특징이다.



최근 AI 기술이 기획·개발·인사 등 전사적 업무로 확산하면서 조직의 보안 기조가 단순 도입에서 실질적인 통제 확보로 이동하고 있다. 지난 1월 시행된 인공지능 기본법이 고영향 AI 활용 시 안전성 확보를 의무화했으며, 개편된 국가망보안체계(N2SF)가 C·S·O 다등급 유연화 체계를 통해 공공 및 금융권의 AI 활용을 일부 허용하면서 안전한 운영 환경 구축이 필수 과제로 급부상했다.

사내에 구축된 LLM은 검색증강생성(RAG) 방식을 통해 내부 데이터베이스와 연결돼 운영되는데, 새로운 해킹 표적이 되고 있다. 기존 공격과 달리 정상적인 자연어 질의 형태로 시스템 프롬프트를 탈취하거나 참조 데이터를 추출하는 방식을 취해, 기존 패턴 매칭 기반의 웹 애플리케이션 방화벽(WAF)으로는 탐지하기 어렵다,

이지서티의 신제품은 사용자 단말에 설치된 에이전트를 통해 사내 모델로 향하는 질의와 답변을 양방향으로 검사한다. ‘OWASP LLM TOP 10’에서 규정한 프롬프트 인젝션 및 악성 명령어 삽입 시도를 원천 차단하며, 응답 단계에서 내부 기밀이나 개인정보가 포함된 결과도 통제한다.

이 기능은 챗GPT나 클로드 등 외부 상용 서비스 이용 구간도 동일한 기준으로 검사한다. 사내망 트래픽만 확인할 수 있는 기존 네트워크 게이트웨이 방식 제품들과 달리, 재택근무나 외부 핫스팟 접속 환경에서도 단말 자체에서 검사를 수행해 사각지대를 없애고 미승인 ‘섀도우 AI’(Shadow AI) 접근을 식별한다.

보안 통제에서도 멀티모달 탐지 엔진 기반의 통과 설계를 적용했다. 시스템이 텍스트와 이미지 속 개인정보와 기밀을 자동 식별해 익명화 및 마스킹 처리를 진행하고, AI 모델로 전달해 원본 맥락을 잃지 않으면서 생산성을 유지할 수 있다.

또, AI 활용을 진단하는 관제 기능도 탐재했다. 부서나 사용자의 인공지능 사용량이나 위협 발생 지점을 대시보드로 시각화해 경영진의 기술 투자 성과를 측정하고 관련 거버넌스를 구축할 수 있는 실무 데이터도 제공한다. 국내 규제 요건을 고려한 Hwp 파일 파싱 엔진과 고유 개인정보 탐지 기능도 통합 지원한다.

김보성 이지서티 부대표는 “그간 AI 보안은 우리 AI를 지키는 제품과 직원의 AI 사용을 막는 제품으로 나뉘어 있었지만, 조직 입장에서 이 둘은 결국 같은 문제”라며 “어느 방향이든 사내 데이터가 AI를 통해 빠져나가는 것을 막고, 조직이 AI를 고민없이 활용할 수 있는 환경을 만드는데 주력할 것”이라고 말했다.

[조재호 기자(zephyr@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>