인공지능 윤리 확보를 위한 기업의 자율적 활동 사례 공유 등

[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부)는 인공지능 윤리를 확산하기 위한 기업의 자율적 활동 방안을 논의하기 위해 정보통신정책연구원(이하 KISDI)과 한국정보통신기술협회(이하 TTA)와 함께 지난 26일 제3차 윤리정책 포럼(포럼위원장 고학수 서울대 법학전문대학원 교수)을 개최했다.

인공지능 윤리정책 포럼은 인공지능의 윤리적 개발과 활용을 위한 논의를 촉진하기 위해 올해 2월 처음 출범했다. 산업계를 비롯해 인공지능, 윤리, 교육, 법제도, 공공 등 다양한 분야의 전문가 30명이 제1기 포럼위원으로 활동하고 있다.

이번 포럼은 인공지능 스타트업이 인공지능 윤리를 어떻게 실천하고 있는지 엿볼 수 있는 자리였다. 인공지능 챗봇 ‘이루다’를 개발한 ‘스캐터랩’, 인공지능 기반 영상인식 솔루션 등을 개발한 ‘알체라’, 인공지능 기반 글쓰기 솔루션 등을 제공하는 ‘뤼튼테크놀로지스’가 인공지능 서비스를 개발하는 과정에서 어떠한 고민을 가지고 어떻게 노력하였는지 그 경험을 공유했다.

먼저 스캐터랩의 김종윤 대표가 ‘스캐터랩 인공지능 챗봇 윤리점검표’ 최종안을 발표하며 논의의 장을 열었다. 스캐터랩은 친구처럼 일상적인 대화를 나눌 수 있는 관계 지향형 인공지능 챗봇 ‘이루다 2.0’의 오픈 베타 테스트를 진행하고 있다.

‘스캐터랩 인공지능 챗봇 윤리점검표’는 인공지능 챗봇 ‘이루다’를 기획·개발·운영하는 전 과정에서 기업 윤리를 실현할 수 있도록 점검 항목을 제공한다. 스캐터랩의 ‘인공지능 챗봇 윤리 준칙’을 과기정통부의 ‘인공지능 윤리기준(2020.12.)’ 10대 핵심 요건에 따라 구체화한 질문을 제시하고 있다.

스캐터랩은 지난 3월에 ‘인공지능 챗봇 윤리 준칙’을 발표하며, 사람을 위한 인공지능 개발· 다양한 삶의 가치 존중·사생활 보호 등 인공지능 챗봇 ‘이루다’에 어떤 가치를 담아냈는지 공개한 바 있다.

알체라의 조민국 연구소장은 인공지능 기반 산불 감지 솔루션의 기술적 신뢰성 검증 결과를 발표했다. 알체라는 영상인식 기술 등을 활용해 이상 상황 감지 솔루션, 신원 인식 솔루션 등을 개발·제공하고 있다.

알체라의 기술적 신뢰성 검증은 ‘신뢰할 수 있는 인공지능 개발안내서(이하 개발안내서)’를 알체라의 특성에 맞게 변형해 현장 적용하는 방식으로 이뤄졌다. 개발안내서는 개발자가 인공지능 제품·서비스 개발 과정에서 신뢰성 확보 여부를 확인해 볼 수 있도록 기술적 검증 항목 후보군(pool)을 제공하는 것으로, 기업이 제품·서비스 분야에 맞게 검증 항목을 자율적으로 선택·변형해 내부지침으로 활용할 수 있다.

알체라는 개발안내서에서 제시하는 요구 사항 중 이상 상황 감지 분야에 필요한 신뢰성 요구사항을 선별하고, 신뢰성 확보 여부를 점검해 점검 결과 및 개선 사항을 도출했다.

뤼튼테크놀로지스 이세영 대표는 ‘뤼튼 인공지능 작문 도구 윤리점검표’ 개발 취지와 초안을 발표했다. 뤼튼테크놀로지스는 자연어 처리 기술 및 초거대 인공지능 기반으로 작문 보조 솔루션 ‘뤼튼(WRTN)’을 제공하고 있다.

‘뤼튼 인공지능 작문 도구 윤리점검표’ 초안은 올해 2월 포럼 출범식에서 공개한 ‘인공지능 윤리 자율점검표(이하 윤리점검표)’를 뤼튼테크놀로지스의 조직 특성에 맞게 변형하는 방식으로 개발됐다. ‘윤리점검표’의 점검 항목 후보군(pool)을 참고해, 작문 보조 분야에 적합한 점검 항목을 만들어 내부 지침으로 활용하는 것이 목적이다.

과기정통부는 지난 2월, 포럼 출범식에서 민간이 인공지능 제품·서비스를 기획하고 개발하는 과정에서 윤리 실천 및 신뢰성 검증을 위해 참고할 수 있는 ‘인공지능 윤리 자율점검표’와 ‘신뢰할 수 있는 인공지능 개발안내서’를 공개했다. 이는 인공지능 활용 목적과 조직의 특수성에 따라 점검 항목을 선별·재구성해 활용할 수 있도록 산업 부문 등을 특정하지 않은 범용성 있는 점검 항목 후보군(pool)을 제공한다.

이번 포럼은 스캐터랩, 알체라, 뤼튼테크놀로지스는 ‘인공지능 윤리 자율점검표’를 자사 서비스 특징에 맞게 내부 지침으로 변형하거나 ‘신뢰할 수 있는 인공지능 개발안내서’를 자사 서비스의 신뢰성 검증을 위해 활용하는 등 인공지능 윤리 확보를 위한 기업의 자율적 활동 사례를 공유하는 자리였다.

과기정통부는 이번 포럼의 결과물·기업의 애로 사항 등을 종합해 챗봇, 위기 상황 감지, 작문 등 해당 서비스 분야의 다른 기업들이 일반적으로 활용할 수 있는 분야별 점검 항목 후보군(pool)을 공개할 예정이다.

과기정통부 엄열 국장은 “혁신을 저해하지 않으면서 국민이 믿고 이용할 수 있는 인공지능 제품·서비스를 개발하기 위해서는 기업 스스로의 인공지능 윤리를 실천하고자 하는 노력이 중요하다”고 강조하며, “인공지능 기술 수준, 인공지능 윤리 관련 국내외 동향, 이해관계자의 목소리 등을 종합적으로 고려해 현장에서 공감할 수 있는 자율 규제 환경을 조성하기 위해 적극 지원하겠다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>