생성형 AI가 촉발한 사이버 위협 확산, 어떻게 대응해야 할까

2024-11-28 11:09
  • 카카오톡
  • 네이버 블로그
  • url
과기정통부, 2024 사이버보안 정책 포럼 워크숍 개최
숭실대 최대선 교수, 국가보안기술연구소 지세완 실장, 성균관대 김선우 교수 주제 발표
‘디지털 신기술 위협과 사이버 보안의 나아갈 방향’ 주제로 패널토의


[보안뉴스 김영명 기자] 과학기술정보통신부(장관 유상임, 이하 과기정통부)는 11월 27일 ‘디지털 신기술 위협과 사이버 보안의 나아갈 방향’을 주제로 2024 사이버 보안 정책 포럼 워크숍을 개최했다. 이번 워크숍에는 국가안보실 신용석 사이버안보비서관, 과기정통부 김남철 정보보호네트워크정책관, 한국인터넷진흥원 이상중 원장, 한국CISO협의회 이기주 회장, 한국정보보호산업협회(KISIA) 조영철 회장, 한국정보보호학회 하재철 회장 등이 참석했다.


▲ 사이버보안 정책 포럼 워크숍의 주요 참석자들이 기념촬영을 하고 있다[사진=보안뉴스]

먼저 키노트에 나선 미국 조지아주립대 컴퓨터공학과 지펭 카이(Zipeng Cai) 교수는 ‘Privacy and Security Challenges of Generative AI in the IoT’라는 주제로 발표했다. 지펭 카이 교수는 “챗GPT와 같은 도구는 활용 가능성이 크지만, 생성형 AI는 방대한 데이터의 사용으로 개인정보보호와 윤리적 사용에 중대한 과제를 주고 있다”며 “특히 IoT 보안과 개인정보보호 문제는 데이터 민감도에 따라 데이터 프라이버시, 데이터 보안 및 무결성, 사이버 보안 취약성으로 이어질 수 있어 철저한 보호장치를 마련하는 등 균형감을 갖출 수 있도록 해야 한다”고 말했다.

지펭 카이 교수는 “개인 데이터 보호의 핵심은 암호화, 익명화, 접근제어, 모니터링 등”이라며 “데이터셋에 무작위 노이즈를 더해 개별 데이터를 얻는 차등 개인정보보호, 메커니즘 자동 업데이트화, 보안 프로토콜 수명 주기, 방화벽 및 IDS 등 다층 방어 등도 해결방안 가운데 하나”라고 강조했다. 이어 “생성형 AI와 IoT의 결합은 혁신과 위험이 함께 따르는 만큼 시스템 신뢰성과 무결점 보호를 위한 전략 개발이 필요하다”며 발표를 마쳤다.


▲과기정통부 김남철 국장, KISA 이상중 원장, 한국정보보호학회 하재철 회장, 국가안보실 신용석 사이버안보비서관이 인사말을 하고 있다(좌부터)[사진=보안뉴스]

과기정통부 김남철 국장은 개회사에서 “올 한해를 돌이켜보면 디지털 역기능 방지를 위한 전담반 구성, 주요 공공기관에 정보보호책임관 배치, 제로트러스트 및 SW 보안 가이드라인 발간 등의 성과가 있었다”며 “올해 ‘사이버 보안’은 국가 12대 전략기술로 선정됐다”고 말했다. 이어 “내년에도 미국 트럼프 행정부 2기 등 안보환경의 변화와 함께 사이버 위협의 우려도 높아질 것으로 예상되는 만큼 정부도 철저히 대안을 마련하겠다”고 밝혔다.

이어 KISA 이상중 원장은 환영사를 통해 “최근 생성형 AI의 확산과 함께 사이버 공격이 늘어나는 만큼 디지털 신기술의 안전한 개발과 사용을 위한 협력이 요구된다”며 “이 자리가 공공과 민간, 산·학·연·관이 함께 하며 중요한 인사이트와 방향성을 제시하길 기대한다”고 밝혔다. 또한, 한국정보보호학회 하재철 회장은 “AI 안전성과 양자보안 등 미래 보안에 대한 통찰의 시간이 되길 바란다”며 “모두의 고견이 미래 한국의 보안과 정책 마련에 도움이 될 것”이라고 밝혔다.

국가안보실 신용석 사이버안보비서관은 축사를 통해 “대통령께서는 AI와 우주, 양자보안 분야의 인재양성을 강조했다”며 “다음 주부터 정부부처에도 CISO 제도가 도입될 것이며, 정보보호정책관이 각 부처의 정보보호를 담당하게 될 것”이라고 말했다. 이어 “내년은 공공기관 망분리 정책과 제로트러스트 도입 등 보안정책이 한 단계 발전하는 만큼 더욱 꼼꼼히 보안을 챙겨주기를 바란다”고 당부했다.

첫 번째 세션은 주제 발표 시간으로 마련됐다. 먼저 숭실대 최대선 교수가 ‘AI 안전성 이슈와 전망’을 주제로 발표했다. 최대선 교수는 “AI의 안전성 이슈는 ‘AI에 대한 적대적 공격’, ‘AI 악용’, ‘통제력 상실’, ‘국가 안보 위협’ 등이 있다”며 “AI는 통제력이 상실되면 AI가 전체 시스템 종료 등 극단적인 선택을 실행할 수 있고, 자율무기로 민간인을 공격할 수도 있다”고 말했다. 이를 최소화할 수 있는 방안으로 AI 사용 제한, 통제 가능한 설계 원칙 적용, 모니터링 및 업데이트 등을 제시한 최 교수는 “AI 위협에 대한 대응은 결국 ‘창과 방패의 대결’로, 공격 자체를 막을 수는 없지만 피해를 줄여나가는 것이 목표”라며 “숭실대도 최근 ‘AI안전성연구센터’를 개설해 관련 연구를 이어가고 있는 만큼 AI 보안 및 안전을 위한 좀더 많은 관심과 연구가 지속돼야 한다”며 발표를 마쳤다.


▲주제발표를 하고 있는 숭실대 최대선 교수, 국가보안기술연구소 지세완 실장, 성균관대 김선우 교수(좌부터)[사진=보안뉴스]

이어 국가보안기술연구소 지세완 실장이 ‘양자과학기술 보안 이슈’에 대해 발표했다. 지세완 실장은 “양자과학기술은 크게 양자컴퓨팅, 양자통신, 양자센서 등 세 가지로 나눌 수 있다”며 “양자는 중첩, 복제불가, 얽힘, 불확정성 등이 특징”이라고 말했다. 지 실장은 “양자 키분배(QKD)는 임의의 양자상태에 복제가 불가능한 원리를 사용하는 것”이라며 “양자인터넷 개발, 양자통신용 소자개발 등 다양한 연구를 이어가고 있지만 양자 컴퓨터의 표준화 논의 시점은 이르다”고 말했다.

또한, 성균관대 융합보안대학원 김선우 교수는 ‘지속가능한 미래우주경제를 위한 우주사이버보안’을 주제로 발표했다. 김 교수는 “미래 우주경제는 에너지 기술 발전과 헬스케어·건설 등 우주 융복합, 우주 에너지, 스페이스포트(우주 호텔) 등의 이슈가 있을 수 있다”고 말했다. 이어 김 교수는 “우주사이버보안을 활성화하려면 우주사이버훈련장 구축, 우주 소프트웨어 공급망 보안, 우주 제로트러스트 아키텍처 개발, KPS 보안 강화, 우주시스템용 시큐어 OS 플랫폼의 개발 등이 선행되어야 한다”고 강조했다.


▲한국정보보호학회 하재철 회장과 한국CISO협의회 이기주 회장, KISIA 조영철 회장, IITP 정현철 PM, 숭실대 최대선 교수가 패널토의를 진행하고 있다[사진=보안뉴스]

마지막 세션에서는 ‘디지털 신기술 위협과 사이버 보안의 나아갈 방향’을 주제로 패널토의가 진행됐다. 패널토의는 한국정보보호학회 하재철 회장이 좌장을 맡고, 한국CISO협의회 이기주 회장, KISIA 조영철 회장, 정보통신기획평가원(IITP) 정현철 PM, 숭실대 최대선 교수 등이 패널로 참석했다.

첫 번째 논의 과제는 ‘법·제도 및 정책 분야, 사건사고 등을 총망라한 올해 가장 중요한 사이버 보안 이슈’이었다. 먼저 한국CISO협의회 이기주 회장은 “올해 가장 큰 이슈는 AI와 망분리인데 Safety, Security 등 최상위 개념이 혼란스러운 측면도 있었다”며 “정부는 AI의 불안전성으로 인한 위험, 위협, 리스크를 리스트업하고 대처방안과 관련기관의 대응책을 발표해주면 좋겠다”고 말했다.

KISIA 조영철 회장은 “여러 기관에서 보안체계를 강화하며 산업계도 긍정적인 분위기가 조성됐고, 새로운 제품 투자와 개발, 기술 발전의 계기가 될 것”이라고 말했다. 이어 “공공기관의 정보보호책임자를 고위공무원으로 격상시키는 안건도 국무회의를 통과한 만큼 앞으로 부처 및 기관의 정보보호책임자가 큰 역할을 해줄 수 있을 것으로 보인다”고 말했다.

IITP 정현철 PM은 “올해 화두는 AI로 인한 사이버위협의 대중화와 지능화”라며 “공격 비용은 급감하지만 보안 위협은 증가하고 있다”고 말했다. 이어 “해커는 휴먼 취약점을 악용하고 있다”며 “AI의 창이 날카로워진 만큼 우리도 강한 AI 방패가 필요하다”고 강조했다.

숭실대 최대선 교수는 “올해는 알뜰폰 비대면 본인확인 개통 사고로 인한 비대면 본인확인의 근간이 흔들린 해였다고 생각한다”며 “신원확인을 뚫는 문제, 특히 가장 위협이 되는 근간은 트러스트 앵커(Trust Anchor)로 이 부분에 대해 경각심을 가지면 좋겠다”고 말했다. 이어 “신분증 사진만으로도 멀티 팩터가 되는 만큼 전자신분증 확산도 이슈”라고 덧붙였다.

다음으로 패널둘 대상으로 질의가 이어졌다. ‘올해 정보보호산업 실태조사에서 2022~2023년 사이에 수출과 정보보호 인력이 감소됐다는 통계에 대해 KISIA의 원인 분석과 해결방안’을 묻는 질의가 들어왔다. KISIA 조영철 회장은 “올해 수출은 정보보안·물리보안 분야 모두 소폭 감소했는데, 국제 동향 및 글로벌 경제 상황이 영향을 미친 것으로 보인다”며 “해외에서 우리 솔루션의 경쟁력이 상승하고 있고, 글로벌로 뻗어나가는 보안 스타트업도 나오면서 향후에는 긍정적인 결과가 나올 것”이라고 답변했다.

두 번째는 ’정부 정책이 방어적 보안에서 능동적 보안으로 변화되고 있는 상황에서 우리나라의 보안 R&D 투자 방향’에 대한 질의도 있었다. 정보통신기획평가원 정현철 PM은 “국내 사이버안보 전략도 수세적 보안에서 공세적 보안으로 넘어가고 있어 더욱 많은 보안 투자가 필요하다”며 “정부도 글로벌 보안기술 확보를 목표로 하며, 기술 자립을 위해 투자를 늘릴 계획”이라고 말했다.

세 번째로 ‘LG유플러스와 숭실대가 인재양성을 위해 정보보호학과도 설립하고 정부도 융합보안대학원을 확대하는 등 사이버보안 인력 양성을 확대하는 상황에서의 인력수급 매칭’에 대한 질문이 있었다. 숭실대 최대선 교수는 “숭실대가 LG유플러스와 협업해 사이버보안학과를 설립했다”며 “인재양성을 위한 단기 교류나 체험 프로그램 시행, 보안 관련 자격증 활성화, 프로그램 인증제도 실시가 도움이 될 것”이라고 말했다. 이어 “기업에서 임원급을 보안 전문가로 지정하는 등 학생 스스로가 보안인재의 필요성과 중요성을 인식하도록 지속적인 노력이 필요하다”고 덧붙였다.

네 번째로 ’우리 기업에서 사이버 보안 역량이 부족한 원인과 사이버 위협 확산에 대응해 필요한 것이 무엇인지‘에 대한 질의가 나왔다. 한국CISO협의회 이기주 회장은 “기업은 랜섬웨어 감염 및 개인정보 유출과 함께 대국민 서비스의 장애 등에 힘겨워하고 있다”고 말했다. 이에 이 회장은 “CEO의 보안에 대한 관심과 투자, 전문인력 확보가 중요하고, 정부는 기업의 ’자율보안‘ 활성화시키기 위해 노력해야 한다”며 “ISMS를 ’ISMS-AI‘, ’ISMS-제로트러스트‘ 등 세분화하고 활성화하는 것이 하나의 방안”이라고 말했다.


▲이날 사이버보안 정책 포럼 워크숍에는 60여명이 참석한 가운데 진행됐다[사진=보안뉴스]

다음으로 ’2024년 사이버보안과 관련해 정부가 추진해야 할 핵심 어젠다‘에 대한 질의가 있었다. IITP 정현철 PM은 “내년에는 AI 모델 보안기술을 마련하고, 양자내성암호로의 전환을 위해 산·학·연·관이 협력할 것”이라고 말했다. 또한, 숭실대 최대선 교수는 “정부가 AI의 악용 가능성, 통제력 상실 등을 커버하기 위해 좀더 큰 규모의 전담 조직이 필요하고 이는 현재 우리나라에서 가장 필요한 조직이 될 것”이라고 강조했다.

한국CISO협의회 이기주 회장은 “AI기본법 하위법령 제정이 상급기관의 관심과 적극적인 지원으로 신속하게 진행되면 좋겠다”고 말했다. 이어 “정부가 AI 관련 법·제도, 기술, 기업 요구사항과 관련된 로드맵을 만들 필요가 있다”며 “정보보호 관련 유관부처가 각론을 조율하는 역할이 중요하다”고 덧붙였다.

KISIA 조영철 회장은 “우리나라는 ISMS 제도가 정착된 만큼 세부 항목을 잘 정리해 더욱 발전시키고, CISO 제도와 정보보호 공시 제도도 더욱 구체화 및 세분화함으로써 거버넌스 정립과 함께 C-레벨의 보안인식을 높일 수 있으면 좋겠다”고 말했다.

좌장인 한국정보보호학회 하재철 회장은 “오늘 이 자리에 참석해주신 모든 분들의 고견에 감사드린다”며 “앞으로도 이 포럼이 꾸준히 발전할 수 있으면 좋겠다”며 행사를 마무리했다.
[김영명 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

헤드라인 뉴스

TOP 뉴스

이전 스크랩하기


과월호 eBook List 정기구독 신청하기

    • 다후아테크놀로지코리아

    • 인콘

    • 엔텍디바이스코리아

    • 이노뎁

    • 다후아테크놀로지코리아

    • 아이디스

    • 씨프로

    • 웹게이트

    • 씨게이트

    • 하이크비전

    • 한화비전

    • ZKTeco

    • 비엔에스테크

    • 비엔비상사

    • 원우이엔지

    • 지인테크

    • 지오멕스소프트

    • 이화트론

    • 다누시스

    • 테크스피어

    • 렉스젠

    • 슈프리마

    • 인텔리빅스

    • 시큐인포

    • 미래정보기술(주)

    • 동양유니텍

    • 비전정보통신

    • 경인씨엔에스

    • 트루엔

    • 성현시스템

    • 한결피아이에프

    • 프로브디지털

    • 디비시스

    • 세연테크

    • 스피어AX

    • 투윈스컴

    • 위트콘

    • 유에치디프로

    • 구네보코리아주식회사

    • 주식회사 에스카

    • 넥스트림

    • 포엠아이텍

    • 세렉스

    • 탈레스

    • 에스지에이솔루션즈

    • 로그프레소

    • 윈스

    • 포티넷코리아

    • 신우테크
      팬틸드 / 하우징

    • 에프에스네트워크

    • 유투에스알

    • 케이제이테크

    • 알에프코리아

    • 창성에이스산업

    • 아이엔아이

    • 미래시그널

    • 새눈

    • 에스에스티랩

    • 현대틸스
      팬틸트 / 카메라

    • 이스트컨트롤

    • 네티마시스템

    • 태정이엔지

    • (주)일산정밀

    • 넥스텝

    • 한국씨텍

    • 두레옵트로닉스

    • 에이티앤넷

    • 지에스티엔지니어링
      게이트 / 스피드게이트

    • 에이앤티글로벌

    • 포커스에이치앤에스

    • 신화시스템

    • 휴젠

    • 메트로게이트
      시큐리티 게이트

    • 글로넥스

    • 엘림광통신

    • 세환엠에스(주)

    • 유진시스템코리아

    • 카티스

    • 유니온커뮤니티

Copyright thebn Co., Ltd. All Rights Reserved.

MENU

회원가입

Passwordless 설정

PC버전

닫기