안전하고 신뢰할 수 있는 AI 위한 공론의 장 마련...기조강연, 1~2세션, 패널토론으로 진행
AI 영상합성서비스 윤리영향평가 추진 경과, AI 윤리교육 콘텐츠 소개 등 대국민 의견수렴

[보안뉴스 김영명 기자] 과학기술정보통신부(장관 유상임, 이하 과기정통부)와 정보통신정책연구원(원장직무대행 김정언, 이하 KISDI)은 11월 28일 14시에 서울 중구 포스트타워에서 ’2024 인공지능 윤리·신뢰성 포럼 공개세미나‘(이하 공개세미나)를 개최했다고 밝혔다.


▲과학기술정보통신부 로고[로고=과기정통부]
이번 공개세미나는 2024년 인공지능 서울 정상회의를 마무리하고, 2025년 프랑스 행동 정상회의를 준비하는 차원에서 ’인공지능 윤리·신뢰성 포럼’을 돌아보며, 인공지능 관련 글로벌 논의 및 인공지능 윤리 쟁점에 대한 의견수렴 및 대응방안 모색을 위한 공론의 장으로 개최됐다.

제3기 인공지능 윤리·신뢰성 포럼의 의의와 과제를 되짚어 본 이상욱 포럼위원장(한양대 인공지능학과 교수)의 기조 강연을 시작으로, KAIST 문술미래전략대학원 박성필 원장의 균형 잡힌 ‘인공지능 전환’ 프레임워크 설계에 대한 윤리적 및 법적 관점에 대한 강연과 함께 △인공지능 윤리영향평가 △실무자 대상 인공지능 윤리교육 세션별 발표와 패널토론으로 구성됐다.

이상욱 포럼위원장은 ‘제3기 인공지능 윤리·신뢰성 포럼의 의의와 과제 : 2025 인공지능 행동 정상회의를 준비하며’라는 제목으로 인공지능 윤리 거버넌스 글로벌 실천 방향과 함께 국제 인공지능 거버넌스들의 논의와 관련 배경을 살펴보며 혁신적 인공지능 기술을 통한 새로운 도약과 공정하고 적절한 대응 방안 마련의 중요성을 강조했다.

이어서 박성필 대학원장은 ‘균형 잡힌 ′인공지능 전환′ 프레임워크 설계 : 윤리적 및 법적 관점’ 강연에서 인공지능으로의 전환 현황과 이에 대한 상반된 입장을 국제적으로 조망했다. 이어 주요국의 인공지능 법안 진행현황을 소개하며 인공지능의 윤리 이슈에 대응하는 원칙과 가치를 바탕으로 한 ‘인공지능 전환’ 프레임워크 설계의 필요성을 강조했다.

제1세션은 정보통신정책연구원(KISDI) 문정욱 실장이 ‘2024년 인공지능 윤리영향평가 : 인공지능 영상합성서비스’를 주제로 △인공지능 윤리영향평가 개요 △진행 경과 △주요 결과(국민포럼 FGI, 전문가 평가단) 등을 설명하고 정부·기업·개인의 역할과 노력에 대해 논의했다. 문 실장은 향후 과정 및 결과에 대한 민주성과 타당성 확보를 위해 다면적 평가를 시행하겠다고 덧붙였다. 이어진 토론은 이상욱 포럼위원장을 좌장으로 하며, 김앤장 노태영 변호사, KAIST 박성필 원장, 오픈넷 손지원 변호사, 네이버 송대섭 이사, 한국정보통신기술협회(TTA) 신준호 AI신뢰성센터장 등이 패널로 참가했다.

제2세션에서는 KISDI 이현경 부연구위원이 ‘인공지능의 윤리적 개발·활용 확산을 위한 실무자용 인공지능 윤리교육 콘텐츠 개발’을 주제로 △교육 콘텐츠 개발 과정 △실무자 대상 전문가 조사 결과 △인공지능 생애주기에 따른 인공지능 윤리교육 내용에 대해 발표했다. 글로벌 규범이 인공지능 기술의 영향을 관리하기 위한 규제를 강화하는 방향으로 진행되는 상황에서 개발 실무자들이 윤리의식을 함양해 안전하고 신뢰할 수 있는 인공지능 사회를 구현하고 관련된 법적 위험을 최소화할 수 있도록 구성했다고 설명했다. 이어진 토론에서는 AI 안전연구소 김명주 소장을 좌장으로, 카카오 김경훈 이사, 포티투마루 김동환 대표, 고려대 김현철 교수, 소프트웨어정책연구소 안성원 AI정책연구실장, SK텔레콤 이영탁 성장지원실장 등이 패널로 참가했다.

각 섹션 발제에 이어 진행된 패널토론에서는 앞서 발표된 정책에 대해 다양한 분야의 전문가분들의 의견수렴 및 향후 개선 방향에 대한 논의가 이뤄졌다.

과기정통부 송상훈 정보통신정책실장은 “올해 9월에 국가AI위원회가 출범하고, 안전·신뢰분과 설치 및 첨단AI의 안전성 확보방안을 연구하는 AI안전연구소가 11월 27일에 출범하는 등 국가 차원에서 체계적인 AI신뢰·안전정책 거버넌스를 구축하고 운영할 계획”이라고 밝혔다. 이어 “지난 화요일에는 AI혁신과 안전의 조화로운 발전을 뒷받침하기 위해 AI안전연구소의 운영근거와 AI윤리‧신뢰성 정책의 추진근거를 포함한 ‘AI기본법’도 과방위를 통과했다”며 “정부는 앞으로도 안전하고 신뢰할 수 있는 AI가 확산될 수 있도록 정책적으로 적극 뒷받침하겠다”고 강조했다.
[김영명 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>