신입 TO 부족한 현실 극복할 무기는 오픈소스 활용 및 MCP 직접 연동
‘OWASP Top 10 for LLM·NIST’ 등 글로벌 위협 프레임워크 가이드 우선 숙지
단순 이론가 아닌 문제 극복 기록 담은 실전 포트폴리오 확보가 핵심 차별점

[보안뉴스 조재호 기자] “어떻게 대응할지 고민하기보다 직접 에이전트를 구축해 보는 실용주의적 접근이 필수적입니다. 스스로 오류를 극복한 실전 경험만이 인공지능 해커를 막아낼 진짜 방어력을 만듭니다.”


▲(왼쪽부터) 신은수 AWS 수석보안솔루션즈아키텍트와 문광석 코리안리재보험 IT보안파트장이 웨비나를 진행하고 있다. [출처: Zoom 화면 캡쳐]

기업이 원하는 AI 보안 인재에 대해 신은수 아마존웹서비스(AWS) 수석보안솔루션즈아키텍트(SA)는 이렇게 조언했다.

2026년 현재 생성형 AI와 자율형 에이전트 고도화는 수동 스크립트 기반 침투를 넘어 수 시간만에 내부망을 장악하는 ‘AI 해커’ 시대를 열었다. 공격 표면이 기하급수적으로 늘어나면서 알려진 패턴만 찾는 기존 시그니처 기반 보안 체계는 실효성을 잃어가고 있다.

이러한 패러다임 전환기 속 보안 책임자들의 직무 변화와 기업이 원하는 스킬셋을 공유하는 웨비나가 21일 저녁 진행됐다. 문광석 코리안리재보험 IT보안파트장과 신은수 AWS 수석보안솔루션즈아키텍트가 연사로 나선 이번 행사에서는 기업이 찾는 AI 보안 담당자와 취업 준비 전략을 공유했다.

자율형 에이전트의 공습과 예측 방어 모델링
‘AI발 보안 위협 시나리오 및 대응 방안’을 주제로 발표한 문광석 파트장은 물리적 한계를 넘어 24시간 자율 스캔과 공격을 진행하는 AI 해커 출현 현황을 짚었다. 이는 과거 사람이 직접 공격 루트를 개척하던 위협과 완전히 달라진 양상을 띤다. 문 파트장은 “인간 한계를 넘어선 AI 해커는 멈추지 않는다”며 “차세대 보안 담당자들은 이제 사람이 아닌 AI의 공격 패턴을 분석하고 이해하는 것부터 시작해야 한다”고 말했다.

실제 4월 공개된 앤스로픽(Anthropic) ‘미토스’(Mythos)는 터미널 명령어를 직접 입력하고 바이너리 파일을 능동적으로 실행하는 역량을 보였다. 앤스로픽에 따르면 미토스의 익스플로잇 성공률은 83%로 시니어 엔지니어급 수준이다. 문 파트장은 “미토스의 80%가 넘는 높은 공격 성공률은 분산된 섀도우 IT 결함을 엮어낸 ‘오토 체이닝’(Auto Chaining)에 있다”며 주니어 담당자들이 이러한 공격 연결 고리를 우선 파악해야 한다고 지적했다.

보안 패치가 오히려 공격 설계도로 악용되는 제로데이 역추론 실태도 현황 파악의 핵심 요소로 공유됐다. AI의 압도적 역공학 능력으로 책임감 있는 공개 원칙이 무너지며 방어망 붕괴가 가속화하고 있다. 패치 공개 후 단 9시간 만에 개념증명(PoC) 익스플로잇이 유포된 ‘더티 프래그’(Dirty Frag) 사태는 사후 대응 중심 체계의 구조적 한계를 드러냈다.

딥페이크 기반 사회공학 기법이나 공격 표면 관리(ASM)를 역이용하는 사례들도 AI 시대 주니어들이 반드시 숙지해야 할 새로운 위협이다. 문 파트장은 완벽한 방어가 불가능하다는 현실을 인정하고 위협 인텔리전스(CTI) 기반 예측 모델링을 구축하거나 사이버 패키지 보험 등 위험 전이(Risk Transfer) 전략을 병행하는 실무적 유연성을 기를 것을 당부했다.

문 파트장은 “이제 더 이상 해커가 지쳐 떨어지겠지라는 생각은 버려야 한다”며 “이제는 사람을 막는 것이 아니라 24시간 끊임없이 스캔하고 침투하는 AI 해커와 대결하는 시대를 맞이했다”며 AI 공격 사례를 이해하고 패러다임 변화에 적응할 것을 당부했다.


▲ AI 보안 패러다임의 전환 [출처: 문광석 파트장]

비결정론적 위협 통제하는 다계층 보안 아키텍처
이어 ‘담당자가 알아야하는 AI 보안’을 주제로 강연한 신은수 SA는 에이전틱 AI 도입으로 공격 표면이 △에이전트 인프라 △메모리 △모델 로직 영역까지 확대된 현실을 분석했다. 그는 “전통적 환경을 넘어 예측 불가능한 돌발 행동까지 탐지하는 동적 분석이 필수적”이라며 차세대 보안 담당자가 갖춰야 할 새로운 거버넌스 시각을 제시했다.

이러한 보안 지형 변화에서 기업이 원하는 담당자의 핵심 업무는 △전략 및 정책 수립 △도입 전 보안성 검토 △보안 솔루션 구축 △보안 에이전트 운영 등 4단계로 구조화된다. 다만, 신기술이 도입되더라도 기존 통제 수단은 여전히 유효하므로 다계층 방어 전략을 근간으로 삼는 폭넓은 이해가 요구된다는 입장이다.

특히 AI 보안 실무의 핵심으로 예측 가능한 ‘결정론적 보안’과 확률론적 이상 행위를 살피는 ‘비결정론적 보안’의 전략적 조화가 꼽혔다. 신 SA는 “LLM은 입력 문맥에 따라 출력이 매번 확률적으로 달라져 예측이 불가능한 비결정론적 특성을 지닌다”며 “이러한 맹점을 보완하기 위해 규칙 기반 데이터유출방지(DLP)와 같은 결정론적 통제 수단이 반드시 선행 적용되도록 아키텍처를 결합해야 한다”고 말했다.

실제 실무 적용 사례로 아마존 베드락(Amazon Bedrock) 기반 ‘클로드 코드’(Claude Code) 도입 환경을 설명했다. 실무 담당자는 사용자 단말의 API 호출이 프라이빗 연결로 구성되는지 확인하고 프롬프트 입력 시 민감정보 탐지 및 차단이 정상 작동하는지 등 클라우드 네이티브 아키텍처 전반을 점검해야 한다.

이러한 다계층 방어망을 뒷받침하기 위해선 중앙 관리 진입점 역할을 하는 ‘AI 게이트웨이’(AI Gateway) 도입이 필요하다. 프롬프트 인젝션 차단과 출력물 유해성 검증 등을 연동해 통제 가시성을 확보해야만 안전한 보안 생태계를 조직에 정착시킬 수 있다.


▲ AI 보안 담당자의 핵심 역량 [출처: 신은수 SA]

망분리 규제 한계 직시와 실무 거버넌스 쇄신
발표 이후 진행된 질의응답에서는 차세대 보안 인력을 꿈꾸는 주니어들의 고민이 이어졌다. 연사들은 특정 기술 도구에 매몰되기보다 글로벌 표준인 ‘NIST AI RMF’ 체계와 ‘OWASP Top 10 for LLM’ 등 거시적 프레임워크를 분석해 보안 거버넌스 시야를 넓혀야 한다고 입을 모았다.

얼어붙은 채용 시장 돌파 전략으론 철저한 실용주의가 제시됐다. 이론 학습에 그치지 않고 ‘모델 콘텍스트 프로토콜’(MCP) 서버를 직접 연동해 보거나 오픈소스 레드팀 도구를 구동해 본 포트폴리오 확보가 관건이다. 신입 채용 규모가 부족한 현실 속에선 무조건 직접 부딪혀 오류를 극복한 실전 경험만이 가장 강력한 무기가 된다.

자동화 이면에 숨은 리스크를 제어할 ‘휴먼 인 더 루프’(Human-in-the-Loop) 적용 기준도 명확히 했다. 단순 로그 수집은 에이전트에 완전히 위임해 불필요한 경보 피로(Alert Fatigue)를 낮추되, 서비스 전체 중단이나 핵심 데이터베이스(DB) 차단 등 시스템 운명을 가를 비가역적 상황 직전엔 반드시 인간 최종 승인 권한이 개입해 대형 사고를 원천 차단해야 한다는 조언이다.

최근 화두인 데이터 학습 미활용(Zero Retention) 정책의 맹점도 짚었다. 오픈AI, 구글, 엔트로픽 등 모델 제공 기업이 학습 재활용을 금지하더라도 퍼블릭 클라우드를 활용하는 프런티어 모델로 데이터가 전송되는 행위 자체는 국내 망분리 규제 및 전자금융거래법 위반으로 이어질 소지가 있다. 통신 구간 암호화 미흡 등 네트워크 리스크가 잔존하는 만큼 클라우드 보안 태세 관리(CSPM) 등을 통한 AI 및 클라우드 보안 체계 유지가 보안의 근간이 될 것이란 지적도 나왔다.

[조재호 기자(zephyr@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>