RSAC 2026 개막... 기조연설에선 ‘AI 에이전트와 안전하게 일하는 법’ 화두

[미국 샌프란시스코= 보안뉴스 특별취재팀] “인공지능(AI)의 힘을 업은 사이버 공격의 확대에 대응, 보안은 자동화(autonomous)되어 시스템의 모든 영역에 퍼져(ambient) 자율적으로(autonomous) 작동해야 합니다.”

바수 자칼 마이크로소프트 보안 담당 부사장은 23일(현지시간) 미국 샌프란시스코 모스코니센터에서 막을 올린 RSAC 2026 키노트에서 “AI 기반 위협에 맞서 보안은 모든 기초 영역에 스며들어야 한다”고 말했다.


▲바수 자칼 마이크로소프트 부사장이 23일(현지시간) 미국 샌프란시스코 모스코니센터에서 열린 RSAC 2026에서 키노트를 하고 있다. [출처: 보안뉴스]

AI가 조직 내 시스템의 모든 층위에 스며들어가는 한편으로, AI를 악용한 대규모 자동화 공격이 일상화되는 등 AI는 기회와 위협을 동시에 주고 있다.

자칼 부사장은 “최근 생성형 AI를 활용해 전체 작업의 80-90%를 사람 개입 없이 사이버 공격을 한 사례도 보고되는 등 AI가 위협의 규모와 속도를 키우고 있다”며 “반면 보안은 아직 각자 영역의 사일로에 고립된 솔루션에 의존하고 있다”고 말했다.

보안에 대한 종합적 접근이 필요하다는 것이다. 그는 “보안은 인프라, 플랫폼, 앱, 반도체 등 모든 층위에서 항상(always on) 모든 곳에서(everywhere) 작동해야 한다”고 말했다.

또 AI 에이전트가 공격 경로를 스스로 탐색하고 취약점을 선제적으로 수정하는 ‘자기 방어 루프’를 구축하는 자율 보안으로 AI 기반 공격자의 규모와 속도에 대응해야 한다.

이를 위해 신원과 데이터, 거버넌스 등 보안의 모든 기초 영역이 AI 기술 발전에 맞춰 변화해야 한다고 그는 말했다.

AI 에이전트가 확산되면서 에이전트 신원 관리의 필요성이 커졌다. AI 에이전트는 사용자 모든 시스템과 데이터에 접근할 수 있어 공격을 받거나 오염될 경우 치명적 피해를 입힐 수 있기 때문이다.

자칼 부사장은 “에이전트를 사람처럼 관리하지 않으면, 에이전트가 내가 아니라 다른 사람을 위해 일하는 ‘이중첩자’(double-agent)가 될 수 있다”고 경고했다.

또 AI 모델에 대한 탈옥이나 프롬프트 주입 등 새 공격 기법을 실시간 탐지하고 차단할 수 있도록 위협 경보 기술을 진화시켜야 한다. 에이전트가 민감 정보에 접근할 때 데이터유실방지(DLP) 정책을 적용하는 등의 방법으로 정보 유출을 막고, AI의 자율성이 높아지더라도 인간이 통제할 수 있게 하는 거버넌스를 구축해야 한다는 점도 권고했다.

이어 키노트 무대에 선 지투 파텔 시스코 최고제품책임자(CPO) 역시 AI 에이전트 보안의 중요성을 강조했다.

파텔 CPO는 “우리는 AI 에이전트를 세상으로부터 보호하는 동시에, 세상을 AI 에이전트로부터 보호해야 한다”고 말했다. 더구나 이 작업은 AI의 속도와 규모에 발맞춰 이뤄져야 한다.

그는 “AI 에이전트는 과오를 저질러도 해고하거나 처벌할 수 없다”며 “잘못된 행동을 할 가능성이 있는 AI 에이전트는 잘못된 말을 할뿐인 AI 챗봇에 비해 훨씬 위험할 수 있다”고 말했다.

파텔 CPO는 이날 키노트에서 자율형 AI 에이전트 ‘오픈클로’(OpenClaw)를 안전하게 배포하고 활용하기 위한 ‘디펜스클로’(DefenseClaw)를 공개했다.

디펜스클로는 최근 엔비디아 연례 행사 GTC에서 공개된 오픈클로 운영 플랫폼 ‘오픈쉘’(OpenShell)에서 작동한다. 오픈클로 에이전트가 작동하기 전 취약점이나 문제를 스캔하고, 작동 중 침투를 시도하는 공격을 감지해 차단한다.

또 AI 에이전트를 위한 신원 및 접근관리(IAM) 기능과 AI 모델 대상 레드팀 테스트를 진행하는 기능도 추가했다.

파텔 CPO는 “곧 모든 업무 과정에 AI 에이전트가 동료 직원으로서 참여하게 될 것”이라며 “이제 에이전트의 ‘접근’이 아니라 ‘행동’을 통제해야 할 때”라고 말했다.

[미국 샌프란시스코= 보안뉴스 특별취재팀(editor@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>