마이크로소프트, 에이전틱 보안(Agentic Security) 시스템 ‘Project Perception’ 제시
미래 보안 시스템, 위험을 지속적으로 예측하고 이해하며, 선제 대응하는 지능형 시스템으로 발전

[보안뉴스 원병철 기자] 미토스의 등장 이후 AI가 보안에 얼마만큼의 영향을 끼치는지에 대한 연구와 고민이 끊임없이 이뤄지고 있다. 대표적인 것이 마이크로소프트다. 오픈AI나 앤트로픽과 달리 마이크로소프트는 보안 솔루션과 서비스를 해왔기에 취약점 찾기 등 보안 검증을 넘어 선제적인 대응방법을 고민하고 있다. 마이크로소프트의 AI를 활용한 보안 연구를 담당하는 ‘보안 연구’(Security Research) 부서의 김태수 부사장을 만나 자율보안 연구와 에이전틱 보안 시스템 개발에 관한 이야기를 들어봤다.


▲김태수 마이크로소프트 보안연구 부사장 [출처: 마이크로소프트]

Q. 먼저 본인 소개를 부탁드립니다
저는 마이크로소프트에서 보안 연구(Security Research)를 담당하는 김태수 부사장입니다. 현재 AI와 보안의 접점에서 차세대 보안 기술을 연구하고 있으며, 특히 AI를 활용해 소프트웨어 취약점을 발견하고 방어 역량을 강화하는 분야를 담당하고 있습니다. 최근에는 마이크로소프트의 자율 보안(Autonomous Security) 연구와 MDASH 같은 에이전틱 보안 시스템 개발을 이끌며, AI가 사이버 보안 분야에서 보다 실질적인 방어 성과를 만들어낼 수 있도록 연구와 엔지니어링 조직을 지원하고 있습니다.

Q. 미토스의 등장 이후 보안업계와 관계자들은 프론티어 AI 모델 기반 보안 위협에 혼란스러워하고 있습니다
저는 먼저 이번 상황을 ‘공포’나 ‘위협’이라는 관점보다 AI가 보안 연구 분야에 본격적으로 활용되기 시작한 하나의 전환점으로 보고 있습니다.

미토스(Mythos)를 비롯한 여러 AI 모델이 기존에는 사람이 오랜 시간 수행하던 취약점 탐지 작업에서 매우 인상적인 성과를 보여주고 있습니다. 이는 공격자에게도 새로운 기회를 제공할 수 있지만, 동시에 방어자에게도 이전에는 불가능했던 수준의 보안 역량을 제공할 수 있다는 의미입니다.

중요한 것은 AI 모델 자체가 아니라 이를 어떻게 활용하느냐입니다. 취약점을 발견하는 것은 전체 보안 프로세스의 시작에 불과합니다. 실제 환경에서는 해당 취약점이 악용 가능한지 검증하고, 비즈니스 영향도를 평가하고, 우선순위를 정하고, 패치 및 완화 조치를 수행해야 합니다.

저희는 AI 보안의 미래가 특정 모델 하나의 우수성 경쟁에 있다고 보지 않습니다. 앞으로는 여러 AI 모델과 전문 보안 지식을 결합해 실제 보호 성과를 만들어내는 ┖시스템 중심 접근┖이 중요해질 것입니다. MDASH 역시 이런 철학 아래 개발됐습니다.

또 하나 주목해야 할 점은 최근 Windows 보안 조직이 발표한 것처럼 AI로 인해 취약점 발견 속도가 과거와 비교할 수 없을 정도로 빨라지고 있다는 점입니다. 마이크로소프트는 이에 대응하기 위해 취약점 발견뿐 아니라 검증, 패치, 배포까지 포함하는 전체 보안 프로세스를 AI 기반으로 개선하고 있습니다.

Q. 마이크로소프트가 말하는 에이전틱 보안은 어떤 것일까요?
마이크로소프트가 말하는 에이전틱 보안(Agentic Security)은 보안 시스템이 단순히 위협을 감지하는 수준을 넘어, 위험을 지속적으로 인식(Perceive)하고, 맥락을 기반으로 추론(Reason)하며, 필요한 대응을 실행(Act)할 수 있도록 하는 새로운 보안 패러다임입니다. Project Perception은 이러한 비전을 구현하기 위해 설계된 차세대 에이전틱 보안 시스템으로, 급격히 복잡해지는 AI 시대의 보안 환경에 대응하기 위한 새로운 접근 방식을 제시합니다.

지금까지의 보안 시스템은 수많은 경고(Alert)와 데이터를 생성하고, 이를 사람이 분석해 조치를 취하는 구조였습니다. 하지만 최근 공격자들이 AI를 활용해 공격 속도와 규모를 높이면서, 인간 중심의 대응만으로는 충분하지 않은 상황이 되고 있습니다. 마이크로소프트는 이러한 환경 변화에 대응하기 위해 보안의 중심을 ‘더 많은 경고를 생성하는 것’에서 ‘실질적인 보안 결과를 달성하는 것’으로 전환해야 한다고 보고 있습니다.

Project Perception은 바로 이러한 문제를 해결하기 위해 설계됐습니다. 이 시스템은 조직 전반에서 발생하는 보안 신호와 위협 인텔리전스, 운영 데이터, AI 모델의 분석 능력을 결합해 위험을 지속적으로 파악합니다. 단순히 이상 징후를 알려주는 것이 아니라, 어떤 위험이 가장 중요한지 판단하고, 해당 위험을 완화하기 위해 무엇을 해야 하는지 제안하거나 수행하는 방향으로 발전하고 있습니다.

특히 Project Perception의 핵심 특징은 여러 전문화된 AI 에이전트가 협력하는 멀티 에이전트 구조입니다. 예를 들어 레드팀 에이전트는 공격자의 관점에서 취약점을 찾고, 블루팀 에이전트는 이를 분석해 방어 우선순위를 결정하며, 그린팀 에이전트는 실제 수정과 보안 강화를 지원합니다. 이러한 협력을 통해 보안 운영은 더 이상 단일 경고에 대응하는 방식이 아니라, 조직 전체의 공격 표면을 지속적으로 줄여나가는 방식으로 진화하게 됩니다.

마이크로소프트는 이러한 에이전틱 보안 체계를 구축하는 과정에서도 AI 자체에 대한 검증을 매우 중요하게 보고 있습니다. 최근 마이크로소프트는 글로벌 AI Red Teaming 프로그램을 확대하며 AI 모델과 에이전트가 실제 환경에서 어떤 방식으로 오용될 수 있는지 지속적으로 점검하고 있습니다. 이는 단순히 AI를 보안에 활용하는 것뿐 아니라, AI 시스템 자체를 안전하게 만드는 Security for AI 관점이 앞으로 더욱 중요해질 것이라는 점을 보여줍니다.

중요한 점은 마이크로소프트가 에이전틱 보안을 ‘인간을 대체하는 기술’로 설명하지 않는다는 것입니다. 오히려 AI는 대규모 데이터 분석, 반복적 조사, 위험 식별, 대응 자동화를 담당하고, 보안 전문가는 전략적 판단과 최종 의사결정에 집중하도록 역할을 재정립하는 것이 목표입니다. 즉, 인간과 AI가 함께 협력해 머신 스피드(Machine-Speed)로 공격에 대응할 수 있는 보안 체계를 구축하는 것입니다.

궁극적으로 마이크로소프트는 Project Perception을 통해 미래의 보안 시스템이 사건 발생 후 대응하는 수동적 모델이 아니라, 위험을 지속적으로 예측하고 이해하며 선제적으로 대응하는 지능형 시스템으로 발전할 것으로 보고 있습니다. 이것이 마이크로소프트가 정의하는 에이전틱 보안의 핵심이며, AI 시대 보안 운영의 새로운 방향이라고 할 수 있습니다.

Q. 최근에 공개한 AI 보안 시스템 MDASH는 기존 AI와 어떤 차별점이 있는지, 그리고 실질적인 보안 성과를 개선했는지 궁금합니다
MDASH의 핵심은 뛰어난 AI 모델 하나가 아니라 수백 개의 전문 보안 역량을 가진 AI 에이전트들이 협력하는 구조에 있습니다.

실제로 우리 연구팀은 MDASH 개발 과정에서 특정 AI 모델의 성능보다는 여러 모델과 전문화된 에이전트들이 협력해 얼마나 신뢰할 수 있는 결과를 도출하는지에 집중했습니다. 보안은 정답을 한 번에 맞히는 문제가 아니라 반복적인 검증과 반증이 필요한 분야입니다. 그래서 MDASH는 여러 에이전트가 서로의 결과를 검토하고 토론하며 결론을 도출하는 구조를 채택했습니다.

현재 업계에서는 “어떤 모델이 가장 강력한가”라는 논의가 많지만 실제 보안 환경에서는 발견(Discovery), 검증(Validation), 증명(Proving), 수정(Remediation) 과정이 모두 중요합니다.

MDASH는 이러한 과정 전체를 지원하기 위해 설계됐습니다. 먼저 위험 가능성이 높은 코드를 선별하고, 이후 100개 이상의 전문 에이전트가 각각 인증 우회, 메모리 안전성, 네트워크 취약점 등 특정 분야를 분석합니다. 이후 다른 에이전트들이 서로 토론과 검증을 수행해 오탐을 줄이고 실제 악용 가능성을 입증합니다.

실제로 MDASH는 Windows 네트워킹 및 인증 스택에서 16개의 신규 취약점을 발견했으며 공개 벤치마크인 CyberGym에서 최고 점수를 기록했습니다. 또한 Microsoft Security Response Center(MSRC)가 과거 수년간 처리했던 실제 취약점 데이터를 대상으로 한 재검증에서도 매우 높은 재현율을 보였습니다.

제가 ‘실질적인 보안 성과 개선’이라고 언급한 이유도 여기에 있습니다. 보안팀 입장에서 중요한 것은 얼마나 많은 경고를 생성했는지가 아니라 실제로 악용할 수 있는 취약점을 얼마나 정확하게 찾아서 위험을 줄였는가입니다.

Q. 말씀하신 MDASH의 100여개 AI 에이전트는 무엇이며, 왜 단일 에이전트가 아닌 다수의 에이전트를 사용하는 건가요?
보안은 본질적으로 하나의 문제로 정의할 수 없는 분야입니다. 네트워크 전문가가 보는 취약점과 인증 전문가가 보는 취약점은 완전히 다를 수 있습니다. 실제 보안 사고 대응 과정에서도 여러 분야의 전문가들이 협력하게 됩니다.

MDASH는 이러한 현실을 AI 환경에 반영한 것입니다. 현재 MDASH에는 100개 이상의 전문 에이전트가 존재하며 각각 특정 취약점 유형이나 보안 기능에 특화돼 있습니다. 예를 들어 인증 우회 문제를 분석하는 에이전트, 메모리 취약점을 분석하는 에이전트, 프롬프트 인젝션 공격을 분석하는 에이전트 등이 존재합니다. 이들은 서로 독립적으로 분석한 후 결과를 상호 검증하고 토론하는 과정을 거칩니다.

결과적으로 단일 모델보다 오탐을 줄이고 실제 공격 가능한 취약점을 보다 정확하게 발견할 수 있습니다. 이는 인간 사회에서 한 명의 전문가보다 다양한 전문가 팀이 더 나은 결론을 내릴 수 있는 것과 비슷한 원리라고 생각하시면 됩니다.

이는 단순히 확장성을 위한 설계가 아닙니다. 실제 인간 보안 조직 역시 취약점 연구원, 침해사고 분석가, 공격 시뮬레이션 전문가 등 다양한 역할이 협력해 문제를 해결합니다. MDASH는 이러한 전문가 집단의 협업 방식을 AI 환경에서 재현하려고 시도한 사례라고 볼 수 있습니다.

Q. AI 기반 보안 위협에 대해 실질적인 대응 전략을 수립하고 보안 조직을 운영하는 CISO와 경영진들에게 조언을 해주신다면 어떤게 있을까요
첫 번째는 두려움보다 이해가 우선이라는 점입니다. 인터넷이 등장했을 때도, 클라우드가 등장했을 때도 비슷한 우려가 있었습니다. 하지만 결국 중요한 것은 기술 자체가 아니라 어떻게 관리하고 통제하느냐였습니다.

현재 CISO가 집중해야 할 과제는 “AI를 금지할 것인가”가 아니라 “어떻게 안전하게 활용할 것인가”입니다. 특히 최근에는 AI 에이전트가 데이터를 읽고, 업무를 수행하고, 다른 시스템과 상호작용하는 환경이 확대되고 있습니다. 따라서 데이터 거버넌스, 신원 기반 보안, 제로 트러스트, AI 사용 정책을 함께 고민해야 합니다.

아울러 AI 시스템 자체를 지속적으로 검증하는 체계도 함께 구축해야 합니다. 최근 글로벌 기업들은 AI Red Teaming을 정기적인 보안 운영 체계에 포함하고 있습니다. AI 모델과 에이전트가 예상하지 못한 행동을 하는지, 새로운 공격 기법에 노출될 가능성은 없는지 지속적으로 평가하는 과정이 앞으로 보안 거버넌스의 중요한 요소가 될 것입니다.

또한 AI는 공격자의 무기가 되기도 하지만 방어자의 가장 강력한 도구가 될 수도 있습니다. 앞으로는 AI를 활용하는 조직과 활용하지 않는 조직의 보안 역량 차이가 더욱 커질 것이라고 생각합니다.

Q. 마이크로소프트는 최근 Project Perception을 통해 ‘에이전틱 보안’(Agentic Security)이라는 새로운 비전을 제시했습니다. AI 시대에 보안은 어떻게 변화해야 한다고 보시나요?
AI는 생산성과 혁신을 크게 높여주고 있지만, 동시에 공격자들에게도 새로운 도구가 되고 있습니다. 실제로 공격자들은 AI를 활용해 공격을 더 빠르고 정교하게 수행하고 있으며, 보안팀이 처리해야 하는 위협의 규모와 복잡성도 계속 증가하고 있습니다. 이런 환경에서는 기존처럼 사람이 수많은 경고와 로그를 하나하나 분석하는 방식만으로는 충분히 대응하기 어렵습니다.

그래서 마이크로소프트는 최근 Project Perception을 통해 ‘에이전틱 보안’(Agentic Security)이라는 새로운 비전을 제시했습니다. 과거의 보안이 “얼마나 많은 위협을 발견했는가”에 초점을 맞췄다면, 앞으로의 보안은 “어떻게 더 빠르게 위험을 줄이고 실제 보안 결과를 만들어내는가”가 중요해질 것입니다. Project Perception은 이러한 관점에서 여러 AI 에이전트가 협력해 공격 경로를 분석하고, 취약점을 식별하며, 방어 우선순위를 도출하고, 대응을 지원하는 새로운 모델을 제시하고 있습니다.

특히 Project Perception이 제시하는 방향은 개별 보안 제품의 자동화가 아니라 보안 시스템 전체의 지능화에 가깝습니다. 여러 전문 에이전트가 공격 경로를 분석하고, 위험도를 평가하고, 우선순위를 조정하며, 필요한 대응을 연결하는 방식입니다. 이는 향후 보안 운영센터(SOC)가 사람 중심의 운영 모델에서 인간과 AI가 함께 협력하는 운영 모델로 발전하게 될 것임을 보여줍니다.

중요한 점은 에이전틱 보안이 사람을 대체하는 것이 아니라는 것입니다. AI는 방대한 데이터를 분석하고 반복적인 작업을 자동화하는 역할을 맡고, 보안 전문가는 전략적 판단과 의사결정에 집중하게 됩니다. 즉, 사람의 전문성과 AI의 처리 능력이 결합하는 형태입니다.

저는 앞으로의 보안 경쟁력은 단순히 더 좋은 보안 제품을 보유하는 것이 아니라, AI를 활용해 얼마나 빠르게 위험을 이해하고 대응할 수 있는 역량을 갖추느냐에 달려 있다고 생각합니다. Project Perception은 이러한 방향성을 보여주는 사례이며, 마이크로소프트는 AI 시대에 필요한 보안을 사람과 AI가 함께 만들어가는 지능형 보안 체계로 발전시켜 나가고자 합니다.

[원병철 기자(boanone@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>