공정성, 투명성, 책임성, 프라이버시 보호, 안정성 5대 원칙 담아
AI 인증 ISO/IEC 42001 적용해 AI 산업 발전에 이바지

[보안뉴스 박은주 기자] 비전AI 전문기업 인텔리빅스(대표 최은수, 장정훈)은 신뢰성과 윤리성을 핵심으로 한 자사 AI 윤리경영원칙을 24일 오후 서울 백석예술대학교 비전센터에서 선포했다고 밝혔다.


▲인텔리빅스 임직원이 AI 윤리경영 선포식에서 윤리원칙을 선서한 후 기념사진을 찍고 있다[사진=인텔리빅스]

인텔리빅스 AI 윤리경영원칙은 2023년 제정된 인공지능(AI) 경영 시스템 국제규격인 ISO/IEC 42001 가이드라인에 맞춰 제정됐다. AI 기술을 개발하고 제공하는 과정에서 지켜야 하는 원칙을 의미한다. AI 기술의 개발, 배포, 사용에 있어서 윤리적 원칙과 기준을 확립해 인텔리빅스의 AI 기술이 사회에 긍정적인 영향을 미치고, 부정적인 영향을 최소화를 목표로 한다. 책임 있는 AI 기술사용을 촉진하고, 다양한 이해관계자에게 인텔리빅스 AI 시스템에 대한 신뢰를 제공하기 위해 마련됐다.

인텔리빅스는 ‘AI 윤리경영’ 도입을 위해 AI 경영 매뉴얼을 수립했다. 또한, 한국표준협회(KSA)가 주관하는 ISO42001 인증 획득을 추진하고 있다. ISO/IEC 42001이란 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 공동으로 제정한 인공지능 경영시스템 관련 글로벌 표준이다. 기업과 조직이 윤리적 책임을 바탕으로 AI 시스템을 구축·운영할 수 있는 가이드라인을 제시하고 있다.

‘인텔리빅스 AI 윤리경영원칙’에는 인텔리빅스의 ‘첨단 AI 기술로 사람의 안전과 행복을 보장하며 더 나은 미래를 열어갈 수 있다’는 비전을 담았다. ‘행복한 사람들, 더 나은 미래’를 실현하기 위해 AI 윤리원칙으로 △공정성 △투명성 △책임성 △프라이버시 보호 △안정성을 5대 핵심 원칙으로 정했다.

‘공정성’은 모든 사용자를 공평하게 대우하며, 차별 없는 AI 시스템을 개발하고 사용하기 위해 훈련 데이터와 알고리즘 설계 시 편향을 제거할 것을 의미한다.

‘투명성’은 AI 시스템 작동 방식, 데이터 사용 방식, 결정 과정을 명확하게 설명하고 공개하며, 사용자가 AI의 작동 원리를 이해하고 신뢰하는 것을 뜻한다.

‘책임성’은 AI 시스템의 개발자, 운영자, 사용자로서 그 시스템 결과에 책임을 지며, AI 결정이 잘못된 경우 이를 바로잡기 위한 책임과 조치를 마련한 ‘책임감 있는 AI’를 뜻한다.

‘프라이버시 보호’는 사용자 개인의 데이터를 보호하고, 무단 사용이나 유출되지 않도록 할 것을 약속하며, 데이터 수집·저장·처리 과정에서 개인정보 보호 원칙을 철저히 준수함을 목표로 한다.

‘안정성’은 AI 시스템이 사용자에게 해를 끼치지 않도록 설계하고, 예기치 않은 상황에서도 안전하게 작동하도록 할 것을 의미한다.

인텔리빅스 최은수 대표는 “인텔리빅스는 자사 AI 기술 고도화를 단순히 기술적 성과를 넘어 사회 전반에 긍정적인 영향을 미칠 수 있도록, 인텔리빅스는 AI 윤리원칙을 철저히 준수할 것”이라고 밝혔다. 최 대표는 “인텔리빅스 AI 기술로 삶을 더욱 안전하고 행복하게 만드는 데 기여하고 누구나 신뢰할 수 있는 AI 기술로 제공해 AI 산업발전에 기여하겠다”고 밝혔다.

인텔리빅스는 ‘AI 윤리경영원칙 선포식’과 함께 장정훈 대표 겸 최고기술책임자(CTO)가 직접 VLM, AI 기술 동향 및 연구 개발 방향을 소개하는 ‘AI 테크세미나-VLM(Vision-Language Model)의 이해 및 응용’을 진행해 인텔리빅스 임직원과 함께 AI 기술 비전에 대해 공유하는 시간을 가졌다.
[박은주 기자(boan5@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>