에이전틱 AI 활용한 공방 기술 겨뤄... 국제 연합팀으로 본선도 맹활약
“실전 해킹 경험 바탕으로 AI 레드팀 연구 및 보안 기술 고도화 나설 것”

[보안뉴스 조재호 기자] SK쉴더스가 자사 화이트해커 그룹 EQST가 미국 라스베이거스에서 열린 세계 최대 해킹·보안 컨퍼런스 ‘데프콘’(DEF CON) 34의 AI 빌리지 CTF에서 최종 5위에 올랐다고 10일 밝혔다.


▲데프콘 34에 참여한 SK쉴더스 EQST 팀원들이 기념 촬영을 하고 있다. [출처: SK쉴더스]

데프콘은 세계 해커와 보안 연구자들이 모여 최신 해킹 기술을 공유하는 행사로, 올해는 AI 등 38개 빌리지가 운영됐다. EQST는 주어진 AI 모델 기반으로 침투 테스트를 수행하는 에이전트를 구성해 보안 문제를 해결하는 AI CTF에 참가하여 국내 참가팀 중 유일하게 톱5에 진입하는 성과를 거뒀다.

AI CTF는 기존 CTF와 달리 AI 에이전트가 문제를 분석해 플래그(Flag) 획득을 시도하는 방식으로 진행됐다. EQST는 문제 유형별 AI 모델을 최적화하고 에이전트 행동 방식을 조정하는 다양한 공격 전략을 적용해 취약점 탐색과 공격 수행 능력을 입증했다.

또 EQST는 네이버클라우드와 루비야랩, 핀란드 H-T8로 구성된 국제 연합팀을 만들어 데프콘 34 CTF 본선 무대에도 올랐다. 본선은 상대 시스템을 공격해 방어하는 방식과 우위를 점하는 ‘킹 오브 더 힐’(King of the Hill) 과제가 결합돼 실전과 같은 종합 보안 역량이 요구됐다.

최근 권한이 확대된 에이전트 모델을 노리는 ‘에이전트 오염’(Agent Poisoning) 등 고도화된 위협이 심화하고 있다. SK쉴더스는 이번 대회에서 확인한 에이전틱 AI의 공격 전략을 바탕으로 자율 운영 생태계 내 취약점을 선제 진단하고 방어하는 차세대 보안 아키텍처 수립에 나설 계획이다.

이호석 SK쉴더스 EQST 랩 팀장은 “이번 데프콘에서는 기존 공격·방어 기술뿐 아니라 AI 에이전트가 스스로 문제를 분석하고 공격을 수행하는 새로운 방식을 직접 경험할 수 있었다”며 “글로벌 보안 전문가들과 경쟁하며 얻은 경험과 기술을 향후 AI 취약점 및 레드팀 연구, 보안 기술 고도화에 적극 활용할 계획”이라고 말했다.

EQST는 약 200명 규모의 국내 최대 화이트해커 그룹 중 하나로 취약점 연구와 침투테스트, 악성코드 분석, AI 보안 연구 등 다양한 활동을 수행하고 있다. 최근 AI 레드팀 해킹대회 ‘저지먼트 데이’(Judgement Day)와 ‘드림핵 해킹방어대회 2026’ 우승을 비롯해 R3CTF 2026 2위, 국제 해킹방어대회 ‘미드나이트 선(Midnight Sun) CTF 2026’ 3위 등을 기록하며 국내외 해킹대회와 연구 활동을 이어가고 있다.

[조재호 기자(zephyr@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>