생산성 향상 기대 AI 도입… 따라오는 숨은 ‘보안 비용’ 인식해야
카스퍼스키, 중국 광저우에서 CSW 2026 개최

[중국 광저우=보안뉴스 한세희 기자] “AI가 약속하는 생산성 향상에 집중하다 검증을 놓치고 있습니다.”

류소준 카스퍼스키 글로벌리서치및분석팀(GReAT) 책임연구원은 3일 중국 광저우에서 열린 ‘사이버 시큐리티 위켄드(CSW) 2026’에서 “AI가 기업 생산성을 높이고 업무 효율성을 개선하는 핵심 기술로 빠르게 발전하고 있지만, AI에 대한 ‘맹목적 신뢰’와 검증 부족이 새로운 보안 위험을 만들고 있다”고 말했다.

AI 기반 개발 과정에서 인간이 각 단계를 검증해야 하지만, 생산성 향상을 위해 검증 과정이 간과되는 사례가 늘고 있다는 설명이다. AI가 개발 속도를 높임에 따라 더 많은 개발 도구와 코드를 활용하게 되고, 이 과정에서 안전성에 대한 검증은 제대로 이뤄지지 못하는 것이 현실이다.


▲류소준 카스퍼스키 책임연구원이 중국 광저우에서 열린 CSW 2026에서 AI 공급망 보안 관련 위협에 대해 설명하고 있다. [출처: 카스퍼스키]

특히 AI가 단순 도구(tools)나 보조자(copiliots)를 넘어 수많은 업무를 스스로 처리하는 ‘에이전트’(agents)로 발전함에 따라 생산성과 편의를 위해 충분한 검증 없이 AI의 자율성을 신뢰하는 경향도 커지고 있다.

실제로 카스퍼스키 GReAT 연구진은 올해 들어 AI 서비스로 위장한 악성 공격 9만2000건을 발견했다. 이중 49%가 챗GPT 애플리케이션으로 위장했고, 클로드와 제미니로 위장한 경우는 각각 18%였다.

이 기간 에이전틱 AI 소프트웨어로 위장한 악성코드 샘플도 1만5000건 이상 확인됐다. AI 도구에 대한 사용자들의 신뢰를 악용하는 공격들이다.

특히 AI 활용과 개발 과정에 필수적인 오픈소스 패키지에 대한 공격도 위협 요소다. 류 책임은 “AI 에이전트가 이제 새로운 공급망 층위로 떠올랐다”고 말했다. 카스퍼스키는 npm과 PyPI 등 주요 오픈소스 생태계에서 지난해 중반 이후 최소 10건 이상의 대규모 공격 캠페인을 확인했다고 밝혔다.

류 책임은 “개발자는 오픈소스가 필요하고, AI 역시 오픈소스를 필요로 한다”며 “공격자들도 이를 잘 알고 있기 때문에 오픈소스 패키지를 대상으로 한 소프트웨어 공급망 공격은 여전히 가장 중요한 위협 중 하나”라고 말헀다.

또 그는 “지난해 조사에 따르면 기업의 31%가 공급망 공격의 영향을 받은 것으로 나타났다”며 “이는 오픈소스 소프트웨어가 기업 개발 환경에 얼마나 깊게 통합돼 있는지 보여준다”고 말했다.

AI 활용으로 가능해진 생산성을 유지하면 신뢰 위험은 줄이는 것이 관건이다. 이를 위해선 통합개발환경(IDE)과 확장 프로그램, 개발자 작업 공간, AI 에이전트 권한 등을 고루 보호해야 한다. 외부 콘텐츠와 내부 개발 자산 사이에 명확한 신뢰 가능한 개발 영역을 정의해야 한다는 설명이다.

류 책임은 “AI 도구와 확산으로 기술 지식이 없는 사람들도 마케팅이나 재무, 운영, 분석 등 각자의 영역에서 코드를 짜고 실행할 수 있는 환경이 됐다”며 “여러 승인 절차 등으로 위험을 막으려 하지만, 승인이 곧 검증은 아닌 경우가 종종 있다”고 말했다.

사람이 여전히 AI 시스템을 운영하는 한 사람의 신뢰가 가장 중요한 공격 목표가 될 수 있다는 지적이다.

[중국 광저우=한세희 기자(hahn@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>