무기체계 소프트웨어 정의(SDW) 시대, 코드 한 줄이 전투원 생명과 직결
외산 LLM 맹신하면 ‘할루시네이션’에 따른 요격 실패 및 우군 식별 오류 등 치명적 위험
생성 AI와 검증 AI가 상호 견제하는 ‘협업형 이중 검증(Dual-AI)’ 체계 도입 시급

[보안뉴스= 김은영 LIGNex1 Tech Agile Lab장] 이제 전장의 승패는 ‘코드’에서 결정된다. 무기체계가 소프트웨어 정의 방식(SDW: Software-Defined Weaponry)으로 진화함에 따라, 코드 한 줄의 무결성은 곧 전투원의 생명과 직결되는 시대가 됐다. 최근 개발 생산성을 혁신적으로 높여주는 생성형 AI가 국방 소프트웨어 개발 현장에도 깊숙히 침투하고 있다. 하지만 우리가 마주한 질문은 “과연 AI가 짠 국방 코드를 우리는 어디까지 신뢰할 수 있는가?”이다.


[출처: gettyimagesbank]

AI 생성 코드의 그림자와 국방의 특수성
최근 깃허브가 세계 개발자를 대상으로 실시한 조사에 따르면, 응답자의 90% 이상이 이미 업무에 AI 코딩 도구를 활용하고 있다고 답했다. 그러나 AI가 제안하는 코드는 학습 데이터에 포함된 과거의 취약점을 그대로 답습하거나, 존재하지 않는 라이브러리를 참조하는 환각 현상(Hallucination)을 동반한다. 일반적 상용 서비스라면 사후 패치로 대응할 수 있지만, 국방 소프트웨어는 다음 세 가지 측면에서 소프트웨어의 성격을 달리한다.

△실시간성: 초 단위 반응이 필수적인 유도무기 체계 내 AI 생성 코드와 비효율적 메모리 관리로 인한 시스템 지연 및 요격 실패 위험 상존

△무결성: AI 생성 코드 내 잠재된 미세 로직 오류에 따른 전시 상황 ‘우군 식별 오류’ 등 치명적 사고 발생 가능성

△폐쇄성: 클라우드 연결 기반의 민간 AI 가드레일과 달리, 외부와 단절된 환경 내 국방 핵심 코드의 독자적 검증 체계 필요성

미국의 전략: AI로 취약점을 사냥하는 ‘자율 보안’의 시대
미국은 이미 이 문제를 국가 안보의 핵심 과제로 정의했다. 2023년 2월, 깃허브 코파일럿이 실시간으로 보안 취약점을 걸러내는 ‘사전 취약점 차단 엔진’을 탑재해 민간 차원의 방어벽을 세웠다면, 국방에서는 더욱 파괴적인 행보를 보이고 있다.

미국 국방고등연구계획국(DARPA)이 주도하는 ‘AIxCC’(AI Cyber Challenge)는 AI가 스스로 소프트웨어의 취약점을 찾고, 이를 고치는 ‘패치 코드’까지 생성해 배포하는 자율 보안 기술을 목표로 한다. 이는 단순히 인간의 코딩을 돕는 보조 도구를 넘어, ‘AI를 검증하고 통제하는 기술’자체가 미래 사이버전의 핵심 병기이자 새로운 국방 규격이 되고 있음을 시사한다.

우리 군 역시 독자적인 ‘국방 소버린 AI’ 확보를 서둘러야 한다. 외산 AI 모델에 국방 소스코드를 입력하는 순간, 우리 무기체계 설계도와 로직이라는 ‘국가의 심장’은 외부 서버로 유출되며 데이터 주권이 상실된다. 우리가 지향해야 할 소버린 AI는 단순한 한국어 최적화 모델이 아니다.

국방 표준 가이드라인을 이해하고, 우리 군의 특수 프로토콜과 전술 데이터 링크 환경을 완벽히 반영한 코드를 생성할 수 있어야 한다. 또 그 생성 과정이 투명하게 공개되고 스스로 오류를 검증할 수 있는 신뢰 모델이 필요하다.


[출처: 생성형 AI 활용 이미지]

이중 AI(Dual-AI) 기반 ‘협업형 검증 체계’
필자는 AI 생성 코드의 신뢰성을 확보하기 위해 생성과 검증의 역할을 분리한 ‘이중 AI 검증’(Dual-AI Verification) 모델을 제안한다. 이는 창의적 생산을 담당하는 생성 AI와 엄격한 규격으로 심판하는 검증 AI가 상호 견제하는 구조다.

이러한 Dual-AI 체계를 성공적으로 안착시키기 위해서는 ‘민·군 기술 협력’이라는 거버넌스적 접근이 필수적이다. 민간의 방대한 데이터를 통해 학습된 최신 AI 모델의 범용적 지능과 군의 엄격한 보안 요구사항이 반영된 특화 검증 엔진을 결합한 ‘개방형 혁신’이 필요하다. 이를 통해 기술적 완성도와 국가 안보 주권을 동시에 확보할 지혜가 요구된다.

Dual-AI 체계 도입이 인간의 퇴장을 의미하진 않는다. 오히려 개발자는 단순 코더에서 AI가 짠 코드의 전략적 탇당성을 검토하는 ‘코드 지휘관’으로 거듭나야 한다. AI가 제안한 로직이 전술적 의도에 부합하는지 최종 승인하는 ‘휴먼 인 더 루프’(Human-in-the-loop) 구조는 국방 보안이 결코 포기할 수 없는 최후의 보루가 될 것이다.


▲김은영 LIG넥스원 Tech Agile Lab장 [출처: 본인 제공]
보안은 협업이자 투쟁이다
AI는 이제 거부할 수 없는 흐름이다. 적대 세력이 AI로 만든 지능형 악성코드로 우리를 공격할 때, 인간 분석가의 속도만으로는 대응할 수 없다. 결국 “AI의 공격은 AI의 방어로, AI의 오류는 AI의 검증으로” 막아야 한다.

소버린 AI 개발 전략의 중심에 ‘AI를 검증하는 엔진’ 개발을 포함해야 한다. 일반적인 대형 AI 엔진과의 전략적 협업을 통해 지능의 폭을 넓히되, 그 검증의 최종 승인은 우리가 쥐어야 한다. 이것이 AI 시대에서 대한민국 국방의 ‘코드 전투력’을 수호하고, K-방산의 신뢰를 글로벌 시장에서 입증하는 유일한 길이다.

[글_ 김은영 LIGNex1 Tech Agile Lab장 ]

필자 소개_
- 2026.1.1. ~ 현재 : LIGNex1 Tech Agile Lab장. 국가인공지능전략위원회 보안TF 위원
- 2024.10.14. ~ 2025.12.31 : LIGNex1 기술위원
- 2001.3.12. ~ 2024.10.13 : 국가보안기술연구소 책임연구원·실장
- 2015.8. 고려대학교 정보보호대학원 공학박사
- 한국정보보호학회·정보처리학회 이사
- 사이버안보학회 위협대응연구회 연구위원
- 국기원·IITP·KIST 사이버전 대응 및 미래 국방 전문가 그룹 활동

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>