대화형 AI 휴먼 자체 구축된 품질관리 시스템 및 윤리강령 적용과 이를 활용한 연구도 활발

[보안뉴스 이소미 기자] AI 서비스 전문 기업 이스트소프트(대표 정상원)는 ‘제1회 인공지능 신뢰성·품질 대상’에서 우수상(정보통신정책연구원 원장상)을 수상했다고 29일 밝혔다.


▲이스트소프트 변계풍 이사(오른쪽)가 ‘인공지능 신뢰성·품질 대상’ 수상 기념 촬영을 하고 있다[사진=이스트소프트]

‘인공지능 신뢰성·품질 대상’은 AI 기술 신뢰성과 품질 확보의 중요성을 널리 알리기 위해 마련된 자리로 과학기술정보통신부(이하 과기정통부)가 주최하고, 한국정보통신기술협회(TTA)와 정보통신정책연구원(KISDI)이 주관한다.

이스트소프트의 핵심 서비스인 ‘AI 휴먼’과 ‘AI 이미지’ 등 AI 서비스 운영에 있어 기술 개발부터 활용 전 단계까지 정부에서 발표한 ‘AI 3대 원칙 및 10대 요건’을 준수하며 확보한 신뢰성과 품질을 인정받아 정보통신정책연구원 원장상인 ‘우수상’을 받았다.

특히, 다양한 산업군에 필요한 AI 휴먼 연구에 전념하고 있는 ‘AI 휴먼 랩(A.I. Human Lab)’에서는 자체 운영 중인 품질 관리체계 및 테스트 요청서를 바탕으로 AI 휴먼 시스템의 측정 지표를 선정해 성능을 관리하며, 지속적인 모니터링과 평가로 문제 발생 시 즉각적인 대응을 한다. 또한, AI 휴먼 개발에 필요한 데이터 및 기술은 이스트소프트의 보안 기술 역량으로 보호하고 있다.

이스트소프트가 자체적으로 구축한 ‘5대 AI 윤리강령’은 주력 제품인 AI 휴먼 개발 및 활용 과정에 적용 중이다. 주요 내용은 △인간의 존엄성 존중 △사회 공동선 추구 △공정성 및 다양성 인정 △사회 윤리 준수 △개인정보 및 데이터 보호 등이다. 이외에도 매년 ‘테크센터(Tech Center) 콘퍼런스’를 열어 AI 관련 교육과 시스템 운영 개선을 위한 모니터링을 실시하고 있다.

최근에는 대화형 AI 휴먼 구동을 위해 환각 현상을 최소화하고 최신 정보를 제공하도록 최적화한 GPT를 지속해서 고도화 중이다. 이와 함께 딥페이크 등 생성형 AI로 인해 양상 될 사회적 문제를 예방하고자 이를 탐지하기 위한 ‘생성물 탐지 AI 기술’을 개발해 테스트하는 등 AI 기술의 신뢰성 확보와 윤리적 활용을 위한 활동에 적극적으로 나서고 있다. 앞으로는 이스트소프트의 AI 휴먼 서비스인 ‘AI 스튜디오 페르소’에서 생성된 영상은 워터마크(식별표시)를 표시할 예정이다.

이스트소프트 AI 사업본부 변계풍 이사는 “대화형 AI 휴먼 개발 및 공급에 있어 기술 고도화와 더불어 윤리적인 활용도 지속해서 고민해 왔다”면서, “앞으로도 사용자의 피드백을 적극적으로 수용해 기술의 신뢰성과 품질을 강화하고 이를 토대로 우리 사회에 도움이 되는 AI 휴먼 서비스를 제공할 수 있도록 최선을 다할 것”이라고 말했다.
[이소미 기자(boan4@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>