[이슈인터뷰] 동국대학교 강재원 국제정보보호대학원장 “AI가 유발할 사회문제에 미리 대비해야”
법적·윤리적 문제 등 인공지능으로 발생할 수 있는 사회문제 대비하는 전문인력 육성한다

[보안뉴스 이상우 기자] 인공지능(이하 AI)은 4차 산업혁명의 주요 기술 중 하나다. 방대한 데이터로 학습한 AI는 인간세상을 이해하고, 적절한 방식으로 인간을 돕는다. 가령 의료용 AI는 내시경, 방사선 사진, 단층촬영 사진 등을 분석해 환자가 어떤 질병이 있는지 혹은 어떤 질병에 걸릴 가능성이 있는지를 예측할 수 있다. 이러한 작업은 의사도 할 수 있지만, AI의 경우 의사가 실수로 놓치는 부분까지 파악해 의사의 진료를 지원하고, 환자 치료에 집중할 수 있게 해준다.


▲동국대학교 국제정보보호대학원 강재원 원장[사진=보안뉴스]

AI는 보안과도 밀접한 기술이다. 우선 AI를 기반으로 하는 AI 보안 솔루션은 담당자가 놓친 보안 이벤트를 파악해 위협 가능성을 사전에 차단하고, 담당자에게 알리는 등 자동화를 적용할 수 있다. 반대로 사이버 공격자 역시 기업의 취약점을 찾아내기 위해 AI를 이용하는 것도 가능하다.

나아가 AI 자체에 대한 보안 역시 논의할 필요성도 커지고 있다. 가령 개인 맞춤형 서비스를 제공하는 AI는 학습 과정에서 개인의 생활과 관련한 다양한 정보를 이용한다. 사이버 공격을 통해 이러한 정보가 유출될 경우 심각한 개인정보 침해가 일어날 수 있다. 뿐만 아니라 사이버 공격자가 AI 알고리즘을 조작해 인간에게 해가 되는 방식으로 변조할 가능성도 있다. 이처럼 AI는 보안과 수많은 접점을 갖추고 있다.

이러한 동향에 맞춰 동국대학교 국제정보보호대학원은 국내에서 처음으로 ‘인공지능보안 전공’을 개설했다. 국제정보보호대학원 강재원 원장은 “AI는 실생활에 도움을 주는 한편, AI를 통해 사회적 문제가 나타나기도 하는 등 긍정적·부정적 측면이 공존한다. AI 기반 금융사기, 개인정보 무단 활용 등 범죄는 물론, 고용상실 등의 문제도 충분히 발생할 수 있다. 뿐만 아니라 AI 기술이 발전하면 향후에는 AI 스스로 윤리적 딜레마에 빠질 가능성도 있다. AI 기술이 발전하는 반면, 국내에서는 이러한 문제에 대한 논의는 뒤쳐져 있다”고 말했다.

이어 “AI가 일으킬 수 있는 사회적 문제, 이를 악용한 범죄, AI 시스템 오류로 인한 안전 위협, 사이버 보안 등을 포괄해 이러한 문제를 예방하고 치유한다는 개념에서 인공지능보안 전공을 신설했다”고 덧붙였다.

최근 국내에서도 AI와 관련한 문제가 발생했다. 국내 스타트업이 개발한 AI 챗봇은 서비스 초기 실제 연인과 대화하는 듯한 느낌을 주면서 많은 사용자의 관심을 끌었으나, 이내 AI 챗봇을 개인의 욕구를 채우는 용도로 사용하는 사람이 나타나는가 하면, 혐오나 차별과 관련한 단어를 익히고 이러한 표현을 내뱉기도 했다. 게다가 개발사가 AI 모델을 구축하는 과정에서 사용한 데이터에서 개인정보에 대한 가명처리 및 비식별 조치가 일부 미흡해 챗봇과의 대화 중 해당 내용이 나타나는 일도 발생했다. 결국 해당 스타트업은 각종 논란에 대한 사과문을 발표하고 서비스를 중단했다.

강재원 원장은 “이번 챗봇과 관련한 각종 이슈는 개인정보보호, 편향된 입력을 통한 혐오 표현 학습, AI를 통한 학습 데이터 필터링의 필요성 등 기술적·윤리적·법적 문제가 발생할 수 있음을 보여준 사례로, 이러한 문제에 대처해야 한다는 일종의 신호라고 생각한다”고 말했다.


[이미지=utoimage]

그는 AI 개발자는 물론, 이용자 역시 윤리적 책임이 필요하다고 강조했다. AI는 서비스를 제공함과 동시에 이러한 내용을 다시 학습하면서 발전하며, 이에 따라 AI가 내놓은 결과물은 이용자의 발자국과 같다고 설명했다. 이에 이용자가 윤리적인 목적으로 데이터를 입력했다면 출력되는 데이터 역시 윤리적일 수 있다.

강재원 원장은 “AI를 만들고 사용하는 주체는 결국 인간이다. 인간이 이에 대한 올바른 인식을 가지고 있어야 하며, 용도나 목표 역시 분명해야 한다. AI 보안 역시 사회의 인식이 잘못되면 취약해지고, 각종 문제가 발생할 수 있는 만큼 이를 미리 막아야 한다. 인공지능보안 전공 과정은 이를 사명으로 AI를 잘 다룰 수 있는 인재를 양성할 계획“이라고 말했다.

동국대 국제정보보호대학원은 지난 1998년 개설된 국내 최초의 정보보호분야 전문교육기관으로, 현재 정보보호 전공, 사이버포렌식 전공, 블록체인 전공과 함께 이번에 신설한 인공지능보안 전공 등 4개 과정을 운영하고 있다. 재학생 및 졸업생 대부분이 IT, 금융, 공공기관 등에서 일하고 있으며, 특히 수강생 대부분이 현직에 있는 만큼 현업과 관련한 내용을 공유하며 토의하면서 수업의 질을 높일 수 있다는 설명이다. 또한, 국제공인 정보시스템 보안전문가 과정(CISSP)과 함께 사이버 융합보안 전문가 민간 자격시험을 운영하는 등 보안 분야의 전문인력 양성을 위해 힘쓰고 있다.

새롭게 개설한 인공지능보안 전공은 AI 알고리즘 개발언어, AI 신경망, 기계학습, 심층학습, AI 범행 대응기술, AI 사고 대응과 법률, AI 응용보안. AI과 빅데이터, 데이터사이언스, 정보시스템 보안 정책 및 관리, 암호이론, 정수론 등으로 구성돼 있으며, KISA 초대 원장을 지낸 이재우 석좌교수를 포함해 AI, 경찰행정 등의 분야에서 동국대 전임교수가 강의를 진행할 계획이다.

동국대 강재원 원장은 “인공지능보안 전공은 기계학습과 심층학습을 포함해 AI 알고리즘 개발이나 수리통계, 데이터 공학, AI 기술응용 등 AI 보안전문가를 육성하는 것이 목표이며, 이에 따라 IT나 정보보호의 공통이론과 개발 역량도 필요하다. 여기에 데이터 사이언스를 충분히 공부한 4년제 대학 학사 이상이면 누구나 지원할 수 있다”고 말했다.

이어 “실무적인 부분 역시 강점이다. 보안정책 수립 담당자가 와서 강의를 하고, 수강자가 재직 중인 기업에 보안정책이 미수립됐다면 교육 이후 정책 수립 담당자가 되기도 한다. 또한, 현업 전문가가 강의를 진행하면서 우수한 수강생을 데려가기도 한다”고 밝혔다.

덧붙여 강재원 원장은 “동국대학교 국제정보보호대학원은 보안이라는 분야에서 앞서나가면서 사회 인식을 개선하고 있으며, AI 보안 분야 역시 다시 한번 선도하게 됐다. 수강생은 국내 인공지능보안 전공 석사 1기가 되는 셈”이라고 말했다.
[이상우 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>