에이전트 보안부터 LLM 레드티밍·언러닝까지, 최신 AI 보안 기술과 실무 동향 총망라
AI보안연구회 권태경 위원장 “학계-산업계-정부 협력으로 신뢰할 수 있는 AI 생태계 구축해야”

[보안뉴스 원병철 기자] AI 에이전트의 확산과 함께 인공지능 보안 위협이 새로운 국면에 접어든 가운데, 최신 기술과 실무·정책 동향을 공유하고 학계·산업계·정부 간 협력 방안을 논의하는 ‘2026 AI 보안 워크숍’이 7월 14일부터 16일까지 3일간 강원도 홍천 비발디파크 소노캄에서 성황리에 개최됐다.


[출처: AI보안연구회]

한국정보보호학회 AI보안연구회가 주최한 이번 행사는 거대언어모델(LLM)을 넘어 스스로 판단하고 행동하는 에이전틱(Agentic) AI가 빠르게 확산하면서 새롭게 대두되는 보안 위협에 대응하기 위해, 학계·산업계·정부가 한자리에 모여 기술 동향과 대응 방향을 공유하는 자리로 마련됐다. 이번 워크숍은 온·오프라인 병행으로 진행됐으며, 449명이 등록해 AI 보안 분야에 대한 높은 관심을 반영했다.

신진연구자 세션부터 에이전트 보안, 키노트까지... 첫째날 밀도 높은 기술 발표 이어져
첫째날은 차세대 연구자들의 최신 연구를 소개하는 ‘신진연구자(Emerging Researchers) 세션’(좌장: 최원석 고려대 교수)으로 문을 열었다. 박민경 유니스트 교수가 신뢰실행환경 기반 모델 프라이버시 유출 연구를, 서민재 ETRI AI안전연구소 연구원이 이미지 생성 모델 탈옥을 통한 정치적 논란 콘텐츠 생성 연구를, 이선우 이화여대 교수가 AI 시대의 일상적 시각 신호 기반 프라이버시 유출 연구를 각각 발표했다.

이어진 ‘에이전트 보안(Agent Security) 세션’(좌장: 오동환 한국인터넷진흥원 단장)에서는 이병영 서울대 교수가 프롬프트 인젝션 방어를 위한 에이전트 디자인을, 이수영 카이스트 박사가 에이전틱 브라우저와 확장 프로그램에서의 새로운 보안 위협을, 최석우 국가보안기술연구소 박사가 AI 에이전트를 이용한 난독화 코드 역공학 기술을 소개하며 에이전틱 AI 시대의 공격과 방어 양면을 조명했다.

개회식에서는 김호원 한국정보보호학회 회장(부산대)의 환영사에 이어 임종인 김앤장 고문(한국정보보호학회 명예회장)과 오형근 국가보안기술연구소 부소장의 축사, 권태경 위원장(연세대)의 개회사가 진행됐다.

키노트 세션(좌장: 손수엘 카이스트 교수)에서는 윤인수 카이스트 교수가 ‘특이점에 도달하다: AI 에이전트가 여는 보안 분석의 새 시대’를 주제로, AI 에이전트가 보안 취약점 분석과 공격·방어 자동화의 패러다임을 어떻게 바꾸고 있는지에 대한 통찰력 있는 발표를 전하며 참가자들의 큰 호응을 얻었다.

첫째날 마지막 순서인 ‘AI 보안 응용(AI Security Applications) 세션’(좌장: 류승진 국가보안기술연구소 실장)에서는 김형식 성균관대 교수가 머신 언러닝의 현재와 한계를, 박대영 금융보안원 연구원이 벤치마크 구축부터 금융 애플리케이션 고도화까지 금융 AI 보안·안전 기술 연구개발 현황을, 김진우 충북대 교수가 비전-언어 모델을 이용한 소셜 가상현실 환경에서의 괴롭힘 행위 탐지 기술을 발표했다.

LLM 안전성부터 프라이버시·언러닝, 산업 실무까지... 둘째날 전문 세션에서 깊이 있는 논의
둘째날에는 △LLM Safety △Privacy & Unlearning △AI Security in Practice를 주제로 한 전문 세션들이 이어졌다.

‘LLM Safety 세션’(좌장: 김수형 ETRI 실장)에서는 김재형 연세대 교수가 거대언어모델 기반 탈옥 공격 및 방어를 위한 디코딩 알고리즘을, 권태경 연세대 교수가 LLM 레드티밍 기술의 현재와 한계를, 이상근 고려대 교수가 증류 기반 LLM 모델 복제 공격과 방어를 발표했다.

‘Privacy & Unlearning 세션’(좌장: 윤명근 국민대 교수)에서는 구형준 성균관대 교수가 정량적 노출 위험을 반영한 개인식별정보 언러닝을, 장부루 고려대 교수가 파라미터 효율적인 미세조정을 통한 효율적인 언러닝 기술을 소개했다.

‘AI Security in Practice 세션’(좌장: 이준 KISTI 센터장)에서는 박송 SK쉴더스 Lab장이 AI 에이전트 공급망 위협 관리 방안을, 강준용 네이버 리더가 정적 룰 탐지에서 코드 맥락 기반 보안 분석으로 나아가는 LLM 기반 SAST 고도화를, 김미주 법률사무소 미주 변호사가 에이전틱 AI 시대 글로벌 보안 위협과 법적 거버넌스 수립 방안을 발표하며 산업계와 법조계의 실무적 통찰을 더했다.

AI Prompt Challenge와 유관 프로젝트 개별 워크숍으로 협력의 장 넓혀
이번 워크숍에서는 참가자들이 프롬프트 공격·방어 역량을 직접 겨루는 ‘AI Prompt Challenge(APC)’가 행사 기간 중 중식·휴식 시간을 활용해 진행됐다. 박기웅 세종대 교수가 위원장을 맡고 씨투랩이 후원한 이번 챌린지는 둘째날 시상식으로 마무리되며 참가자들의 뜨거운 참여 열기를 확인시켰다.

둘째날 오후부터 셋째날까지는 AI보안연구회 유관 프로젝트 개별 워크숍이 이어졌다. △KISTI 기관전략연구사업 ‘AI 화이트해커 기반 해킹제로 시스템 개발 사업’ 킥오프 워크숍 △고려대학교 주관 IITP 과제 ‘AI 지식재산권 보호를 위한 AI 모델 증류 방지 및 증류 추적 기술 개발’ 킥오프 워크숍 △숭실대학교 주관 KIPoT 과제 ‘허위조작 콘텐츠 진위여부 판별 시스템 개발’ 3차 총괄 워크숍 △연세대학교 고려대학교 공동 주관 KIPoT 과제 ‘온프레미스·온디바이스 인공지능 모델 대상 포렌식 기술 개발’ 킥오프 워크숍이 열려, 연구회를 중심으로 진행되는 대형 연구 프로젝트 간 협력을 다졌다.

권태경 위원장 “에이전틱 AI 시대, 공격과 방어의 패러다임이 근본적으로 달라져… 선제적 대응 필요”
이번 워크숍을 총괄한 권태경 연세대 교수는 “AI가 스스로 판단하고 행동하는 에이전틱 AI 시대에는 공격과 방어의 양상이 근본적으로 달라진다”며 “학계의 선도적 연구, 산업계의 현장 적용, 정부의 정책과 거버넌스가 유기적으로 맞물려야 신뢰할 수 있는 AI 생태계를 만들 수 있다”고 강조했다. 이어 “이번 워크숍이 AI 보안 연구의 저변을 넓히고 실질적인 협력을 도모하는 장이 되었기를 바란다”고 소감을 밝혔다.

이번 AI 보안 워크숍은 권태경 연세대학교 교수가 연구회 위원장을, 손수엘 카이스트 교수가 프로그램위원장을 맡아 기획됐다. 행사는 한국전자통신연구원(ETRI), 국가보안기술연구소(NSR), 한국인터넷진흥원(KISA), 한국과학기술정보연구원(KISTI)이 기관 후원사로, 드림시큐리티, 드림디엔에스, 솔트룩스, 씨그랩, 씨투랩, NSHC, 쿤텍, 한컴위드, 라온시큐어가 기업 후원사로 참여해 국내 AI 보안 생태계 전반의 협력을 이끌어냈다.

[원병철 기자(boanone@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>