AI, 공격 도구로 악용될 경우 해킹 속도와 정밀도는 인간 넘어서

[보안뉴스= 배종찬 인사이트케이 연구소장] 새해 들어 가장 큰 국제뉴스 중의 하나가 바로 미국 트럼프 행정부의 마두로 베네수엘라 대통령 체포다. 소설보다 더 엄청난 일이 그야말로 전격적으로 이뤄졌기에 놀라움이 더욱 크다.


[자료: gettyimagesbank]

베네수엘라가 주권 국가이고 군대 및 경찰 병력이 있음에도 불구하고 미국의 최정예 특수부대인 델타포스의 전격 작전 하나로 마두로 부부는 침실에서 자던 도중에 미국 뉴욕으로 압송돼 재판을 앞두고 있다.

마두로의 체포와 압송이 국제법상 또는 미국법상 합법적인지 불법적인지 여부를 떠나 놀라운 것은 델타포스의 침투 능력이다. 니콜라스 마두로는 베네수엘라를 철권 통치해 온 독재자다. 이전 미국 정부부터 현재의 트럼프 행정부에 이르기까지 미국 지도자들은 공공연히 마두로의 독재 정치와 마약 수출에 대해 엄단하겠다는 공약을 여러 차례 내 걸었지만 말 뿐이었다.

하지만 이번 미국의 ‘확고한 결의’ 작전은 미국의 이해에 반(反)하는 어떤 세력이라도 내부로 침투해 끌어내고 끝낼 수 있다는 것을 분명히 보여줬다. 미국의 파워가 어느 정도인지 전세계를 상대로 시연한 셈이다.

이런 현상을 보면서 주목하게 되는 현상이 AI 기반의 네트워크 침투 능력이다. 기존의 해킹 또는 사이버 공격에 대해서는 각종 바이러스 퇴치 소프트웨어를 통해 또는 보안 시스템 강화를 통해 막아왔지만, AI 기반의 침투는 날이 갈수록 고도화되고 방어 자체가 어려워질 공산이 크다.

IT 업계에서 AI 전환은 선택이 아닌 필수다. AI 기술은 AI 에이전트를 앞세워 우리네 일상과 업무 환경 곳곳에 자리 잡았다. 해커들이 AI로 공격 과정을 자동화하며 위협 수위를 높이고 있기 때문이다. 생성형 AI는 딥페이크, 맞춤형 악성코드, 고도화된 피싱 등 위협의 수준을 단기간에 끌어올렸다.

특히 자율적 판단과 실행 능력을 갖춘 ‘AI 에이전트’까지 접목된다면 공격 전 과정이 자동화됨에 따라 전 세계적인 해킹의 규모와 피해가 전례 없이 커질 것으로 우려된다. 이제는 AI가 해커를 대신해 사이버 공격을 기획하고 침투·실행까지 도맡는 형태로 진화하고 있다. 공격 대상 물색부터 침입 경로 설정, 정보 탈취에 이르는 전 과정을 스스로 계획하고 실행하는 ‘해커 에이전트(Hacker Agent)’ 단계에 와 있다는 분석이다.


▲AI 해커에 대한 빅데이터 감성 연관어 [자료: 인사이트케이]

그렇다면 AI 해커에 대한 빅데이터 반응은 어떨까. 빅데이터 심층 분석 도구인 썸트렌드(SomeTrend)로 지난해 12월 5일부터 올해 1월 4일까지 AI 해커에 대한 빅데이터 감성 연관어를 도출해 보았다. AI 해커에 대한 빅데이터 감성 연관어는 ‘범죄’, ‘무섭다’, ‘짜다’, ‘비용낮추다’, ‘경고하다’, ‘성공하다’, ‘빠르다’, ‘효과적’, ‘느리다’, ‘실패하다’, ‘진화하다’, ‘위험하다’, ‘가짜’, ‘오류’, ‘합법적’, ‘충격’, ‘정교하다’, ‘경고나오다’, ‘필수’, ‘성공’, ‘의심하다’, ‘공격막다’, ‘악용하다’, ‘충격주다’, ‘차원다르다’, ‘어려운상황’, ‘의미있다’, ‘우려하다’, ‘제약많다’, ‘싸다’ 등으로 나타났다(위 그림).

AI 해커에 대한 감성 연관어를 보면 기존에는 상상하지 못하는 충격적인 타격을 감지하고 있다. ‘무섭다’, ‘진화하다’, ‘위험하다’, ‘가짜’, ‘오류’, ‘충격’, ‘차원 다르다’ 등의 연관어 내용에서 드러나고 있다.


▲배종찬 연구소장 [자료: 인사이트케이]
AI는 대규모 데이터와 자동화된 판단 구조를 기반으로 하기 때문에 공격에 노출될 경우 피해 범위가 훨씬 넓어진다. 기존 해킹이 시스템 침입에 그쳤다면 AI 해킹은 판단 자체를 왜곡할 수 있다는 점에서 더 위험하다. 학습 데이터 조작이나 편향 주입은 AI의 결론을 은밀하게 바꾸는 대표적 수법이다.

AI가 공격 도구로 악용될 경우 해킹의 속도와 정밀도는 인간을 넘어설 수 있다. AI 시스템은 블랙박스 구조가 많아 공격 여부를 사후에야 인지하는 경우가 잦다. 이로 인해 책임 소재와 피해 범위를 규명하기도 쉽지 않다. AI 시대의 보안은 선택이 아니라 신뢰를 유지하기 위한 필요충분조건이 되고 있다.

[글_ 배종찬 인사이트케이 연구소장]

저자 소개_ 연세대 정치외교학과를 졸업하고 서울대 국제대학원에서 석사 학위를 받았다. 고려대 행정학과 박사과정을 수료했다. 이 외에 미국, 일본, 홍콩 등에서 연구 경험을 가지고 있다. 주된 관심은 정치시사와 경제정책인데 특히 대통령 지지율과 국정 리더십, 글로벌 경제 분석 그리고 AI 인공지능 및 블록체인 보안 이슈다. 한국교육개발원·국가경영전략연구원·한길리서치에서 근무하고 리서치앤리서치 본부장을 거친 데이터 분석 전문가다. 현재 인사이트케이 연구소장을 맡아 심층 리서치뿐 아니라 빅데이터·유튜브까지 업무영역을 확대하고 있다.

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>