네이버 SK 등 5개팀에 매년 2천억원 투자...보안 관련 기업은 없어
한국형 AI 모델 개발 핵심은 양질의 데이터...그 유출과 보안 대책은 미흡
글로벌 AI 시대는 기술강국에서 안전강국으로 이동중...보안 투자 시급

[보안뉴스 성기노 기자] 이재명 정부는 명실공히 AI 정부를 표방하고 있다. 그리고 지난 8월 4일 이재명 AI 정부의 첫 번째 구체적 액션플랜이 나왔다. 정부는 우리나라를 대표할 AI 파운데이션 모델을 개발할 주체 5개사(네이버클라우드, SK텔레콤, LG AI연구원, NC AI, 업스테이지)를 선정, 발표했다.


[자료: gettyimagesbank]

이들 5개 정예팀은 정부로부터 개발에 필요한 데이터와 인력 채용 등에 대해 올해 2천억 원, 2027년까지 매년 비슷한 예산을 지원받게 된다. 이는 팀당 연간 약 400억 원에 해당하는 금액으로 민간기업이 정부로부터 이 정도 규모의 직접 지원을 받는 사례는 드물다.

과거 한국 정부는 첨단 기술 및 산업 육성을 위해 민간기업에 상당한 지원을 제공한 사례가 몇 차례 있었다. 대표적인 사례가 바로 반도체 산업 육성이다. 1980년대 정부는 삼성전자, 현대전자(현 SK하이닉스) 등 반도체 기업에 저리 융자, 세제 혜택, 연구개발(R&D) 지원 등을 통해 반도체 산업을 적극 육성했다.

1980년대 중반 정부는 반도체 개발을 위해 약 2,000억 원 규모의 자금을 지원했으며 이는 당시 GDP 대비 상당한 금액이었다. 그 후 정부는 바이오헬스 산업과 민간 클라우드 데이터센터 등에도 대규모 지원을 하기도 했다.

그런데 이번 AI 파운데이션 모델 프로젝트에서 5개 팀이 각각 약 400억 원을 지원받는 것은 민간기업 단위로 보면 상당한 규모다. 과거 1980년대 반도체 산업 초기 지원액인 약 2,000억 원을 현재 가치로 환산하면 수조 원에 달하지만 당시에는 소수 대기업 중심이었다. 반면 이번 프로젝트는 5개 컨소시엄이 각각 400억 원을 받으며 중소기업(업스테이지)과 대기업(네이버, SKT 등)이 동등한 수준으로 지원받는 점에서 파격적이다.

특히 데이터 구매 비용(628억 원)과 GPU 지원 예산(4,500억 원)을 감안하면 팀당 400억 원은 직접적인 현금 지원 외에도 인프라와 간접 지원을 포함한 금액으로 추정된다. 이는 AI 스타트업이나 중소기업 입장에서는 사업 확장에 큰 기여를 할 수 있는 금액이다. 하지만 이마저도 글로벌 AI 경쟁 구도를 보면 한참 부족하다는 지적도 많다.

정부의 이번 지원은 2027년까지 약 6,000억 원(3년간)으로 글로벌 투자에 비하면 상대적으로 적지만 우리의 경제 규모와 아직 초기 단계인 AI 생태계 등을 고려하면 상당히 공격적인 투자다. 하지만 정부의 이런 AI 집중 투자 의지에도 불구하고 한 가지 아쉬운 점이 남는다. 바로 보안 이슈다.


[자료: gettyimagesbank]

보안업계 전문가들이 공통적으로 지적하는 것은 데이터 보안 분야에 대한 이재명 정부의 투자와 관심도가 미흡하다는 점이다. 이는 보안도 AI 100조원 예산의 수혜자가 되어야 한다는 업계의 이기적 논리가 아니라 AI 국가대표들이 ‘소버린 AI’를 실현하는 과정에서 자칫 보안 이슈를 놓쳐 전체 판을 깨버릴 수도 있다는 우려 때문이다.

최근 정부가 선정한 AI 국가대표팀은 한국형 공통 AI 모델을 구축할 예정이다. 그 중심에는 멀티모달 AI(Multimodal Model: 텍스트, 이미지, 오디오, 비디오 등 다양한 유형의 데이터(모달리티)를 함께 고려하여 서로의 관계성을 학습 및 처리하는 인공지능을 말한다)를 중심으로 텍스트, 이미지, 오디오, 비디오 등을 통합 처리하는 고급 모델 개발 계획이 자리잡고 있다.

AI 국가대표팀이 추진할 프로젝트의 가장 핵심 분야가 바로 ‘데이터’라는 얘기다. AI가 언어학습모델이라고 할 때 그의 성능은 양질의 데이터에 의해 좌우된다. 우수한 작물은 우수한 ‘텃밭’에서 나오는 것이 당연하다.

AI 모델의 성능과 신뢰성을 좌우하는 양질의 데이터는 뉴스 기사, 도서, 이미지, 영상 등 창작물로 구성되며 이는 지식재산권과 밀접하게 연결된다. 하지만 정부가 지원하는 데이터 구매 비용(총 628억원)은 GPU 지원 예산(4500억원)에 비해 턱없이 부족하다.

이는 양질의 데이터 확보가 곧 AI 강국 등극의 열쇳말임을 말해준다. 그런데 데이터 확보가 AI 강국의 기반이 되지만 그 데이터를 어떻게 보호할 지에 대한 논의는 상대적으로 너무 미흡하다. 데이터 없이 AI가 없듯이 보안 없이 데이터도 지속 가능하지 않기 때문이다.

AI 전문가들이 그 모델 개발 과정에서 간과하기 쉬운 이슈가 바로 보안이다. 사실 데이터 수집과 학습 단계에서의 유출 위험이 크다. AI 모델은 방대한 훈련 데이터를 사용해 학습하지만 이 과정에서 민감한 개인정보(PII)나 기업 기밀이 포함될 수 있다.

만약 해커가 데이터를 탈취하거나 조작하면 모델의 출력이 왜곡되거나 국가적 기술 유출로 이어질 수 있다. 실제로 생성형 AI의 보안 위협 중 ‘데이터 유출’은 훈련 데이터가 노출되는 사례가 빈번하며 이는 모델의 무결성과 기밀성을 해친다는 지적이 계속 나오고 있다.


[자료: gettyimagesbank]

AI 국가대표가 무려 5개팀이나 선정됐지만 그 화려한 출정식에 정작 국가의 안전을 책임질 ‘보안 대표’는 보이지 않는 게 불안하다. AI가 국정의 핵심 과제로 떠오르고 있음에도 그 뿌리인 데이터와 알고리즘이 어떻게 보호되고 있는지, 어떤 보안 기준을 따르고 있는지에 대한 정보는 어디에도 없다.

멀티모달 AI는 단순히 문장을 생성하는 언어모델이 아니다. 텍스트, 이미지, 오디오, 영상 등 다양한 센서를 통합해 인간처럼 이해하는 시스템이다. 그만큼 공격 지점도 많아진다. 악성 프롬프트를 입력해 AI의 행동을 조작하는 프롬프트 인젝션, 학습 데이터를 훔쳐가는 모델 탈취, 특정 음성 파일로 시스템을 무력화시키는 음향 트로이공격까지, 멀티모달 AI는 단순한 기술 이상으로 사이버보안의 새로운 격전지로 떠오르고 있는 실정이다.

더 심각한 문제는 정부가 600억 원 넘는 예산으로 확보하려는 학습 데이터다. 뉴스, 도서, 논문, 방송 콘텐츠 같은 고급 콘텐츠는 단순히 훈련 재료가 아니라 창작자와 기업의 지식재산이며 개인정보와 기밀정보가 녹아 있는 민감 자산이다. 하지만 이 데이터들이 어떤 보안 요건 아래 수집되고, 어떤 절차로 정제되고 있는지는 여전히 불투명하다.

미국은 2023년 바이든 행정부의 행정명령을 통해 AI 안전성 테스트 의무화, AI 안전 연구소 설립 등 범정부 차원의 AI 보안 프레임워크를 구축했다. EU는 2024년 ‘EU 인공지능법’(EU AI Act)을 통과시켜 AI의 위험 수준에 따라 차등적으로 규제하는 법적 기반을 마련했다. 이스라엘은 AI 모델에 대한 군사적 보안성을 따져 인증 체계까지 논의 중이다. 반면 한국은 ‘기술력 확보’에만 몰두한 채 정작 국민이 사용할 AI의 안전성 검증은 뒷전이다.

대한민국이 진정한 AI 강국이 되려면 GPU와 데이터만으로는 부족하다. 보안 없는 AI는 국력 아닌 ‘국가위험’과 AI 재앙을 초래할 수도 있다. 이미 글로벌 AI 시장은 “누가 AI를 잘 만드느냐”보다 “누가 AI를 안전하게 만들고, 통제할 수 있느냐”가 경쟁의 본질인 시대로 진입하고 있다.

앞으로 정부는 AI 국가대표팀 운영 과정에서 보안 등의 분야에도 추가적인 세부 계획을 내놓을 것으로 보인다. 또한 정부는 기존 AI 보안 계획을 통해 개인정보 특례, AI 보안 유망기업 육성, 공공 데이터 활용과 보안 강화, 2030년까지 종합적 AI 보안 로드맵 등을 추진할 예정이다.

하지만 당장 AI 국가대표팀이 선정돼 프로젝트가 구체적으로 추진되고 있는 상황에서 부랴부랴 보안 대책 ‘뒷북’을 친다면 정책의 완결성도 떨어질 수밖에 없다. ‘기술 강국’은 언젠가 ‘안전 강국’에 잡아먹히게 될 것이다. 보안의 치명적 결함 때문에.

[성기노 기자(kino@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>