AI 에이전트끼리 ┖협업┖해 인간과 기업의 효율성 극대화
기존 보안 시스템 뒤엎는 ┖자율적 행동양식┖으로 혁명적 변화
인간은 AI 관리자로 진화하겠지만 완전히 맡길 수 없는 근본적 한계

최근 흥미로운 뉴스 하나를 접했다. “사람 1명이 AI 에이전트 100개씩 고용하는 시대가 올 것이다”라는 신박한 아이디어였다. 그러면 이제 100명의 AI가 ‘나’ 대신 모든 일을 전부 알아서 처리해 준다는 것인가. “그렇다면, ‘나’는 이제 일도 안 해도 될까”라는 생각에까지 미치자 갑자기 가슴이 두근거렸다. AI 에이전트는 인간에게 어떤 신세계를 열어주려고 이렇게 우리들을 설레게 하는 것일까.


[자료: 게티 이미지]

김동신 센드버드 대표이사(CEO)는 지난 3월 12일 “사람은 시간, 집중력, 속도에 한계가 있어 아프면 그날은 업무를 진행할 수 없지만, AI 에이전트는 모든 업무를 병렬로 처리할 수 있다”며 “사람 한 명이 에이전트를 10개, 100개씩 고용할 시대가 빠르게 오고 있다”라고 말했다.

센드버드는 기업 간 거래(B2B)용 서비스형 소프트웨어(SaaS) 설루션을 제공하는 국내 유니콘으로, 야후, 라쿠텐 등 국내외 기업 5천여 곳에 제품을 공급하고 있다. 김 대표가 주장하는 것은 AI끼리의 ‘합동작전’으로 기업의 효율성이 극대화된다는 게 요지다.

김 대표는 기존 AI 에이전트가 기업 업무 각 영역에서 개별적으로 작동했다면 이제는 에이전트끼리 협업하는 ‘에이전트 투 에이전트’(A2A) 시대로 발전하고 있다고 설명했다. 지금까지는 특정 이슈에 대해 AI 한 대가 여러 경로를 거쳐 최적의 설루션을 제공했다면 앞으로는 AI가 ‘자기들끼리’ 알아서 정보를 주고받으며 일을 처리한다는 것이다.

즉 현재는 마케팅, 세일즈, 고객지원 등 세부 영역별로 AI 에이전트가 각각 작동하지만 미래에는 일련의 기능을 통합해 하나의 AI 에이전트가 관장하게 되고, A2A 시대에는 그 에이전트끼리 협업해 업무를 유기적으로 수행하게 된다는 것이다. ‘백지장도 맞들면 낫다’는 한국 속담의 AI 버전인 것이다.

챗봇 수준에서 제품개발, 마케팅까지 직접 해주는 AI
지금까지의 AI 에이전트는 단순한 ‘챗봇’ 수준이었다. “시리(Siri)야 오늘 일정 알려줘”같은 AI 비서나 도로 상황을 인식하고 운전하는 자율주행 시스템, 답답한 대답만 늘어놓긴 하지만 회사 입장에서는 효율적(?)인 각종 챗봇들, 주식 자동 매매를 해주는 금융 트레이딩 봇 등이 모두 우리가 지금까지 알고 있는 AI 에이전트의 예들이다.

그런데 고도화된 AI 에이전트들이 등장하게 되면 모든 분야에서 우리의 일상이 달라질 수 있다. 기업가들은 AI 에이전트들에게 제품 개발, 마케팅, 고객 대응, 회계까지 모두 맡기고 자신은 전략적 의사결정만 하면 된다. 직장인들은 출근해서 이메일을 확인하는 대신 AI 비서가 보고서를 정리해 놓고 그날 할 일 등을 발췌, 요약해서 전달해주고 실제로 업무도 수행해줄 수 있다. 결국 인간은 “내가 직접 안 해도 되는 일”이 점점 많아지고 AI가 해주는 삶의 최적화를 감시하고 통제하는 관리자로 ‘진화’될 가능성이 크다.

그런데 이 AI 에이전트들이 보안 분야에 적용된다면 가히 혁명적인 수준의 변화가 올 것이다. 먼저 지금까지 보안 분야 설루션들이 해온 ‘일’들을 살펴보자.

기존 보안은 서명 기반 탐지 시스템이었다. 알려진 악성 코드나 공격 패턴(서명)을 데이터베이스에 저장한 후 시스템을 모니터링하며 일치하는 패턴이 발견되면 위협을 탐지하는 백신이나 침입 탐지 시스템이 작동됐다. 하지만 이것은 새로운 위협이나 공격에 매우 취약해서 보안 업체가 업데이트할 때까지 가슴 졸이며 기다릴 수밖에 없는 한계가 있다.


[자료: 게티 이미지]

규칙 기반 접근 통제 방식도 있다. 기업 방화벽이나 웹 애플리케이션 방화벽이 여기에 해당된다. 특정 IP 차단 등과 같은 미리 정의된 규칙에 따라 작동하는 시스템인데 이것도 새로운 위협을 방어하기 어렵고 너무 엄격하게 설정해 놓으면 정상 트래픽까지 차단하는 등 허점이 있다.

마지막으로 SIEM(Security Information and Event Management) 방식이다. Splunk이나 IBM QRadar같은 것으로 로그와 이벤트 데이터를 수집해 분석하고 경고를 발생시킨다. 이 시스템은 데이터 분석이 단순하고 오탐(거짓 경고)이 많아 보안팀의 부담이 커지는 문제가 있다.

사실 보안이라는 시스템은 기업 입장에서 보면 참으로 ‘계륵’같은 것이다. 엄격하게 설정해 놓으면 그 ‘미세한 엄중함’으로 보안팀이 일일이 확인 체크해야 하거나 아예 시스템을 꺼놓는 등의 ‘손이 무지막지하게 많이’ 간다는 불편함이 상존한다.

혼자 알아서 잘 걸러서 해주면 좋은데 인간이 설정해 놓은 ‘공식’대로만 움직이기 때문에 일일이 확인하고 다시 교정해주는 방법밖에 없다. 이것이 기존의 보안 운용 방식이었다. 하지만 이제 AI 에이전트들이 들어서게 되면 기존의 허점과 한계를 극복할 수 있다.

기존 수동적 보안 시스템과 차원을 달리하는 ┖자율적 행동┖
AI는 머신 러닝과 딥 러닝을 활용하여 대규모 데이터를 실시간으로 분석하고, 새로운 위협을 사전에 탐지할 수 있다. 예를 들어 AI는 네트워크 트래픽, 사용자 행동, 그리고 로그 데이터를 분석하여 이상 징후를 신속히 식별하고 이를 기반으로 자동화된 대응을 수행한다. 이는 기존의 수동적 대응 방식과는 완전히 차원을 달리 하는 ‘자율적 행동양식’인 것이다.

일단 보안 위협 탐지 속도도 엄청나게 빨라진다. AI 에이전트는 실시간으로 데이터를 분석하여 위협을 60% 더 빠르게 탐지할 수 있다. Microsoft의 Cyber Signals는 하루에 24조 개의 보안 신호를 분석하여 위협을 신속히 식별하고 있다고 한다.

기존 보안은 보안 전문가가 직접 위협을 분석하고 대응해야 했지만 AI 에이전트는 위협을 탐지한 후 자동으로 트라이지, 격리, 패치 적용 등의 대응 조치를 수행한다. AI는 감염된 시스템을 자동으로 격리하거나 악성 IP를 차단하게 된다.


[자료: 게티 이미지]

보안 관계자들을 하루 종일 ‘뺑뺑이 돌리는’ 오탐률도 크게 감소된다. 기존 보안 시스템은 높은 오탐률로 인해 보안 전문가의 업무 부담을 가중시켰다. 하지만 AI는 패턴 인식과 예측 분석을 통해 오탐률을 크게 줄이고 실제 위협에 집중할 수 있도록 지원해준다.

무엇보다 AI는 예측적 보안을 해줄 수 있다는 장점도 있다. 기존의 ‘사후 약방문’ 대응 방식과는 달리 위협이 발생하기 전에 과거 데이터를 분석하여 미래의 위협을 예측해주고 그에 상응하는 예방조치도 하게 된다.

하지만 AI 에이전트라고 해서 만능이 아니다. AI 에이전트가 대량으로 운영될 경우 보안 취약점이 오히려 증가할 가능성이 있다. A2A 시대가 도래하면 AI 간 협업과 공동대응이 가능해지지만 AI끼리 서로 신뢰할 수 있는지가 관건이다.

해커들의 AI와 ‘협업’하게 돼 오히려 첨단기술들이 몽땅 ‘공개적으로’ 털리게 될 가능성이 있는 것이다. 백지장을 잘못 맞들었다가 두 명 모두 발등이 찍힐 수도 있는 것이다. 그래서 AI 간 신뢰할 수 있는 인증·보안 프로토콜이 필수다.

그렇다면, AI 에이전트 100명을 고용하게 되면 인간의 삶은 그저 ‘놀고 먹게’ 되는 것일까. 아니면 능력있는 AI를 더 효율적으로 부릴 수 있게 인간의 ‘잔손’이 더 많이 가게 될까. 인간이 AI를 99% 신뢰해 모든 것을 맡긴다 해도 나머지 1%의 결핍으로 모든 것을 허망하게 날려버릴 수도 있다.

또한 인건비 높은 국가들은 AI 에이전트들을 앞세워 무수한 인간 노동력을 쳐내려 할 것이라는 슬픈 예감이 엄습해 오기도 한다. 19세기 산업혁명을 영국 농민들이 막을 수 없었듯이 언젠가는 AI가 미래를 지배하는 세상이 올 것이다. 이는 선택의 문제가 아니라 시기의 문제일 뿐이다. 미리 알고 나면 그 충격이 조금이라도 덜하겠지만, AI가 지켜줄 보안이라고 해서 ‘별다른 게’ 있을까 싶기도 하다. 어차피 ‘나’가 없으면 AI는 ‘인공무능’일 뿐이다.

[성기노 기자(kino@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>