‘위험·비극’ 키워드가 압도한 군사 AI... 인간의 통제 벗어난 자율성의 그늘
위성 영상과 도청 데이터 실시간 처리하는 기술력 이면에 도사린 사이버 보안 리스크

[보안뉴스= 배종찬 인사이트케이 연구소장] 2026년 3월 빅데이터 분석 결과, 현대전의 핵심으로 떠오른 ‘군사 AI’를 향해 대중은 극심한 공포와 윤리적 우려를 표출하고 있다. 이스라엘과 이란의 중동 분쟁이 AI 무기의 잔혹한 시험장이 된 가운데, ‘데이터 오염’ 등 사이버보안 취약점을 극복하고 인간의 통제력을 유지하는 것이 인류의 시급한 과제로 떠올랐다.


[출처: gettyimagesbank]

군사 AI(Military Artificial Intelligence)란 정보 수집, 분석, 전략 수립, 그리고 실제 교전에 이르는 군사적 의사결정 과정에 인공지능 기술을 통합한 것을 의미한다. 단순한 무인 로봇을 넘어 빅데이터를 기반으로 전장의 안개를 걷어내고 최적의 공격 혹은 방어 수단을 계산해내는 ‘디지털 지휘부’의 역할을 수행한다.

군사 AI는 수천 개의 위성 영상, 도청된 통신 데이터, 사회관계망서비스(SNS)의 정보를 실시간으로 처리하여 인간이 인지할 수 없는 속도로 표적을 식별한다. 빅데이터 분석에서 나타난 ‘인정하지 않다’, ‘어렵다’는 반응은 바로 이러한 자율성이 초래할 책임 소재의 불분명함에 대한 공포를 투영하고 있다.

현재 미국·이스라엘과 이란의 중동 분쟁은 군사 AI의 성능을 시험하는 가장 잔혹한 시험장이 되고 있다. 첫째, 이스라엘의 ‘라벤더’(Lavender)와 ‘웨얼스 대디’(Where’s Daddy?) 시스템은 AI가 어떻게 살상의 효율성을 극대화하는지 보여준다. 이스라엘군은 AI를 활용해 수만 명의 하마스 대원 후보를 식별하고, 이들이 민간인 가족과 함께 집에 있는 순간을 포착해 폭격하는 방식을 취했다.


▲군사 AI에 대한 빅데이터 감성 연관어 [출처: 인사이트케이]

빅데이터 분석의 ‘비극’과 ‘충격적’이라는 키워드처럼 민간인 피해를 양산하는 윤리적 재앙을 초래했다. 둘째, 미국은 군사 AI를 통해 동맹국에 대한 정보 우위를 제공하고 물류 및 정찰 효율성을 극대화하고 있다. 군사 AI는 ‘높은 수준’의 기술 패권을 유지하고 이란의 비대칭 전력에 대응하는 핵심 방패다.

셋째, 이란은 AI를 탑재한 저가형 드론(자폭 드론)과 미사일 기술을 통해 ‘비대칭 AI 전쟁’을 수행하고 있다. 이란은 AI 기반의 군집 드론 기술을 발전시켜 이스라엘의 ‘아이언 돔’ 같은 고가의 방어 체계를 무력화하려 시도한다.

군사 AI의 치명적인 약점은 역설적으로 그 기반이 되는 ‘데이터’와 ‘연결성’에 있다. 빅데이터 분석에서 ‘오염되다’라는 단어가 등장한 것은 매우 시사적이다.

사이버 보안과 해킹 관리 차원에서 군사 AI는 다음과 같은 세 가지 치명적 유의점을 지닌다. 첫째, ‘데이터오염(Data Poisoning)’의 위협이다. 적대 세력이 AI의 학습 데이터에 가짜 정보를 주입하여 특정 대상을 적군이 아닌 아군으로 인식하게 하거나 민간인을 표적으로 오인하도록 유도할 수 있다.


▲배종찬 연구소장 [출처: 인사이트케이]
둘째, ‘적대적 공격(Adversarial Attack)’을 통한 알고리즘 무력화다. 전장에서 적의 전차에 특수 도료를 칠해 AI가 이를 ‘트럭’이나 ‘나무’로 인식하게 만든다면 수조 원을 들인 AI 감시망은 무용지물이 된다.

셋째, 정보 유출과 역설계(Reverse Engineering)의 위험이다. 군사 AI 모델 자체가 해킹을 통해 유출될 경우 적국은 해당 AI의 판단 로직을 분석해 그 허점을 완벽하게 공략할 수 있다.

빅데이터 분석 결과에서 나타난 ‘윤리적’, ‘공감’, ‘진심’이라는 단어들은 기계가 가질 수 없는 인간 고유의 영역을 갈구하는 대중의 목마름을 보여준다. 군사 AI는 분명 전쟁의 ‘효율적’ 수행을 돕고 아군의 인명 피해를 줄이는 ‘유용한’ 도구가 될 수 있다. 그러나 그 과정에서 ‘문제 발생하다’라는 경고를 무시하고 알고리즘에 살상권(Kill Chain)을 온전히 위임한다면 그 자체로 재앙이다.

군사 AI가 전쟁을 할지 말지를 결정하고 인류의 목을 겨누는 ‘창’이 되어서는 안 된다.

[글_ 배종찬 인사이트케이 연구소장]

저자 소개_ 연세대 정치외교학과를 졸업하고 서울대 국제대학원에서 석사 학위를 받았다. 고려대 행정학과 박사과정을 수료했다. 이 외에 미국, 일본, 홍콩 등에서 연구 경험을 가지고 있다. 주된 관심은 정치 시사와 경제정책인데 특히 대통령 지지율과 국정 리더십, 글로벌 경제 분석 그리고 AI 인공지능 및 블록체인 보안 이슈다. 한국교육개발원·국가경영전략연구원·한길리서치에서 근무하고 리서치앤리서치 본부장을 거친 데이터 분석 전문가다. 현재 인사이트케이 연구소장을 맡아 심층 리서치뿐 아니라 빅데이터·유튜브까지 업무영역을 확대하고 있다.

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>