딥페이크부터 LLM 보안까지, 최신 AI 보안 기술과 정책 동향 총망라
AI보안연구회 권태경 위원장 “학계-산업계-정부, AI 보안 삼위일체 협력 중요”

[보안뉴스 원병철 기자] 생성형 AI 확산과 함께 인공지능 보안 위협이 날로 증가하는 가운데, 최신 기술 및 정책 동향을 공유하고 학계·산업계·정부 간 협력 방안을 논의하는 ‘2025 AI 보안 워크숍’이 지난 7월 16일부터 18일까지 3일간 성황리에 개최됐다.


[자료: AI보안연구회]

한국정보보호학회 AI보안연구회가 주최한 이번 행사는 생성형 인공지능의 확산에 따른 보안 위협에 대응하기 위해 학계·산업계·정부가 한자리에 모여 기술 동향과 정책 방향을 공유하는 자리로 마련됐다. 이번 AI보안워크숍에는 온·오프라인을 통해 370명 이상이 등록해 AI 보안 분야에 대한 높은 관심을 반영했다.

딥페이크 탐지부터 AI 산업 보안까지...첫째날 기술 발표 이어져
첫째 날은 권태경 위원장의 연구회 소개를 시작으로, 한밭대학교 장한얼 교수가 ‘딥페이크 탐지 및 안티스푸핑 기술의 최신 동향’을 소개했다. 이어 호주 CSIRO Data61의 Surya Nepal 박사가 ‘CSIRO의 보안 연구 히스토리 및 향후 계획’을 발표하며 국제적 시각을 더했다.

‘딥페이크 리빙랩’ 세션에서는 성균관대 우사이먼 교수, 숭실대 정수환 교수, 연세대 권태경 교수, 성균관대 한진영 교수, 라온데이터 최성 대표가 참여해 딥페이크 탐지 고도화와 생성 억제 기술을 다각도로 조명했다.

마지막 세션에서는 NSHC 장주현 소장, 파수 황재호 팀장, 이로운앤컴퍼니 윤두식 대표가 산업계 관점에서 AI 보안 기술의 현장 적용 사례를 공유하며 실무적 통찰을 더했다.

AI Security와 LLM Security, AI Safety와 AI 보안 R&D 정책주제로 깊이 있는 논의 이어져
둘째 날은 정보보호학회 박영호 회장의 환영사와 함께, 고려대학교 정보보호대학원의 석좌교수이자 사이버특보였던 임종인 김앤장 고문의 축사가 진행됐다. 이날은 △AI Security △LLM Security △AI Safety △AI 보안 R&D 정책을 주제로 한 전문 세션들이 이어졌다.

AI Security 세션에서는 금융보안원 박대영 책임연구원이 AI 기반 금융사기 탐지 사례를, 카이스트 윤인수 교수가 LLM 에이전트 시대의 보안 위협을 발표했다. LLM Security 세션에서는 포항공대 박상돈 교수가 신뢰할 수 있는 언어모델을 위한 선택적 생성 기술, 성균관대 김형식 교수가 안전한 프로그래밍을 위한 LLM 활용 사례, 국가보안기술연구소 고우영 선임연구원이 LLM이 생성한 댓글 탐지 기술을 소개했다. AI Safety 세션에서는 유니스트 박새롬 교수가 동형암호 기반 프라이버시 보호 임베딩 및 추론 기술, 고려대 이상근 교수가 텍스트 분류기에서 설명가능한 AI의 설명력 향상 기술을 발표하며 연구 결과를 공유했다. AI 보안 R&D 정책 세션에서는 개인정보보호위원회 김직동 과장이 AI 시대의 개인정보 정책 방향과 유출 사고 현황을 발표했고, 정보통신기획평가원 김창오 PM이 정보보호 R&D 사업의 방향과 전략을 제시했다.

또한 키노트 세션에서는 삼성전자 신승원 부사장이자 카이스트 교수가 AI 시대의 신뢰 가능한 인공지능을 주제로 통찰력 있는 발표를 전하며 참가자들의 큰 호응을 얻었다.

이번 워크숍을 총괄한 권태경 연세대 교수는 “생성형 AI 시대에 보안은 기술 선택이 아닌 사회적 필수 요소”라며, “대학과 연구기관의 기술 개발, 산업계의 사업화 노력, 정부의 정책 추진이 삼위일체로 연결돼야 한다”고 강조했다. 또한 “이번 워크숍이 AI 보안 기술의 중요성을 널리 알리고 실질적인 협력을 도모하는 장이 되었다”고 소감을 밝혔다.

한편, 이번 AI 보안 워크숍은 국가정보원, 한국전자통신연구원(ETRI), 국가보안기술연구소(NSR), 한국인터넷진흥원(KISA), 한국과학기술정보연구원(KISTI)이 기관 후원사로 참여했으며, 연세대학교 권태경 교수가 위원장을 맡고 성균관대학교 우사이먼 교수가 프로그램위원장을 맡아 기획됐다.

[원병철 기자(boanone@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>