업스테이지와 에이전틱AI 신원 검증 및 권한 통제 모델 개발
허용 권한 내에서만 작동... 피지컬AI 시대 리스크 선제 차단

[보안뉴스 조재호 기자] 라온시큐어가 업스테이지와 손잡고 스스로 판단하고 행동하는 ‘에이전틱AI’ 기반 보안 자동화 시장 선점에 나섰다. AI 에이전트의 신원을 검증해 엄격한 권한 통제를 하는 ‘AAM’(Agentic AI Management) 개발에도 착수한다.


▲(왼쪽부터) 김자현 업스테이자 파트너사업 부문대표와 김태진 라온시큐어 CTO가 업무협약 기념 촬영을 하고 있다. [출처: 라온시큐어]

라온시큐어는 2일 업스테이지와 ‘에이전틱AI 보안 자동화 개발 및 사업화’를 위한 전략적 업무협약을 체결했다. 이번 협력을 통해 라온시큐어가 보유한 고도화된 보안·인증 기술력과 업스테이지의 대규모언어모델(LLM)을 결합해, 기업 보안 전반을 AI가 능동적으로 운영하는 ‘에이전틱AI 기반 보안 자동화 플랫폼’을 올해 안에 정식으로 선보일 계획이다.

기존 보안 솔루션이 사전에 정의된 규칙에 따라 수동적으로 위협에 반응했다면, 새롭게 개발될 플랫폼은 AI가 실시간으로 위협을 분석하고 스스로 방어 논리를 전개하는 실전형 보안 체계를 구현한다. 라온시큐어는 정책 데이터와 업무 흐름, 통제 체계 등의 보안 기술을 투입하고 업스테이지는 자사 LLM ‘솔라’로 판단과 대응을 담당한다.

양사는 새로운 플랫폼을 발판 삼아 강력한 규제와 보안이 요구되는 금융·공공·국방 분야는 물론, 대규모 사용자 데이터를 취급하는 통신·플랫폼·커머스·의료·제조 등 전 산업군으로 기술 적용 범위를 전방위로 넓혀나갈 방침이다. 또, 대기업뿐만 아니라 전문 보안 인력과 자금 여력이 부족한 중소·중견기업의 실무 여건을 고려해 패키지형과 맞춤형 서비스를 적절히 안배함으로써 AI 보안 도입의 문턱을 크게 낮추는 데 힘을 싣기로 했다.

더 나아가 양사는 에이전틱AI 생태계의 가장 큰 과제로 떠오른 AI 모델의 신원 검증과 엄격한 권한 통제를 해결하기 위해 ‘AAM’ 개발에도 착수한다. AAM은 개별 에이전틱AI에 검증 가능한 고유 신원과 역할 범위를 부여하고, 철저히 허용된 권한 내에서만 작동하도록 제어하는 핵심 보안 모델이다.

여기에는 라온시큐어가 대한민국 모바일 신분증 구축에 성공적으로 적용했던 고유의 블록체인 분산신원증명(DID) 기술이 깊이 있게 융합될 예정이다. 가장 안전하고 신뢰성 높은 피지컬AI 시대의 차세대 보안 생태계를 주도해 나갈 계획이다.

김태진 라온시큐어 CTO는 “보안뿐만 아니라 금융·제조·레저 등 다양한 산업 분야가 AI로 전환되는 시점에서 스스로 판단 및 대응하는 에이전틱AI 기반 체계는 새로운 기술 표준이 될 것”이라며 “업스테이지와 협력해 기업이 AI를 안전하게 협력할 수 있는 신뢰 기반 보안 환경을 구축해 나가겠다”고 말했다.

[조재호 기자(zephyr@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>