AI 모델 검증·보안 시장 본격 진출

[보안뉴스 한세희 기자] AI 보안 전문기업 에버스핀과 AI 안전성 전문기업 티냅스가 AI 시대 신뢰할 수 있는 서비스 환경 구축을 위해 ‘인공지능 신뢰 보안’(AI Trust Security) 분야 전략적 협력 계약을 맺었다고 6일 밝혔다.

이번 협력을 통해 에버스핀은 AI 레드티밍(AI Red Teaming) 등 AI 신뢰 보안 전반의 서비스를 제공한다. 한국·일본·동남아에서 확보한 사업 기반을 바탕으로 글로벌 AI 신뢰 보안 시장 진출에 나선다.


▲하영빈 에버스핀 대표(왼쪽)와 강민승 티냅스 대표 [출처: 에버스핀]

최근 생성형 AI와 AI 에이전트 확산으로 프롬프트 주입Prompt Injection), 탈옥(Jailbreak), 데이터 유출, 권한 오남용, 에이전트 오용 등 기존 정보보안과는 다른 새로운 유형의 위협이 빠르게 증가하고 있다. 이에 따라 AI 모델의 성능뿐 아니라 안전성, 신뢰성, 운영 환경까지 종합적으로 검증하는 AI 신뢰 보안이 주목받고 있다.

티냅스는 기업 AI 시스템을 실시간으로 보호하는 런타임 보안·거버넌스 플랫폼을 제공한다.

에버스핀은 이번 협력을 통해 AI 시스템 설계 단계부터 운영 단계까지 발생 가능한 다양한 보안 위협을 사전 검증하고, AI 레드티밍을 비롯한 AI 신뢰 보안 서비스를 고도화해 국내외 기업들이 AI를 보다 안전하고 신뢰성 있게 도입·운영할 수 있도록 지원한다.

금융, 공공, 플랫폼, 제조 산업을 중심으로 AI 서비스의 안전성과 신뢰성을 객관적으로 검증하는 서비스를 제공하고, 글로벌 규제와 국제 표준에 대응할 수 있는 AI 신뢰성 평가 체계도 지속적으로 확대한다.

또 에버스핀은 기존 해킹방지 및 피싱방지 솔루션에 AI 신뢰 보안 서비스를 더해 AI 보안 포트폴리오를 완성하고, 일본 등 해외 사업 네트워크를 기반으로 글로벌 AI 신뢰 보안 레퍼런스를 확대해 AI 보안 분야 글로벌 표준을 선도하는 기업으로 도약한다는 전략이다.

하영빈 에버스핀 대표는 “AI 시대에는 AI를 얼마나 잘 활용하느냐만큼 얼마나 안전하고 신뢰할 수 있게 운영하느냐가 더욱 중요해지고 있다”며 “AI 신뢰 보안은 앞으로 모든 AI 서비스의 필수 인프라가 될 것이며, 이번 협력을 계기로 글로벌 시장에서도 경쟁력 있는 AI 보안 서비스를 지속적으로 선보이겠다”고 말했다.

강민승 티냅스 대표는 “AI 신뢰 보안의 핵심은 AI의 안전성과 신뢰성을 객관적으로 검증하는 것”이라며 “이번 협력이 국내외 기업들이 AI를 도입하고 활용하는데 있어 더욱 안심할 수 있는 신뢰의 기준점이 되기를 기대한다”고 말했다.

[한세희 기자(hahn@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>