한국 딜로이트 그룹, ‘기업의 생성형 AI 사용 현황 2024년 3분기’ 리포트 발행
민감한 데이터 사용, 개인정보 문제, 데이터 보안 문제 등 우려...생성형 AI 도입 가로막아
생성형 AI 기대 효과 늘고 있지만, 성과 평가 위한 엄격한 측정 기준 마련 필수

[보안뉴스 김경애 기자] 비즈니스 환경에서 생성형 AI의 다양한 활용이 확대되고 있는 가운데, 생성형 AI에 대한 투자는 늘리고 있는 반면 고위 경영진에 대한 관심도는 하락하고 있는 것으로 나타났다.


[인포그래픽=한국 딜로이트 그룹]

고위 경영진 및 이사회, 생성형 AI 관심도 감소
한국 딜로이트 그룹(대표이사 홍종성)이 발표한 ‘기업의 생성형 AI 사용 현황 2024년 3분기’ 리포트에 따르면, 현재 조직들은 생성형 AI 도입을 통해 실제 가치를 끌어내는 데 성공하고 있으며, 조직의 67%는 생성형 AI에 대한 투자를 늘리고 있다.

미국, 영국, 인도, 일본 등 14개국 2,770명의 이사회 및 이사회 구성원, 사장, 부사장, 이사급임원 등 리더를 대상으로 설문한 결과, 응답자의 42%는 생성형 AI 이니셔티브를 통해 효율성 및 생산성 향상과 비용 절감을 중요한 성과로 꼽았다. 하지만 58%는 혁신 촉진(12%), 제품 및 서비스 개선(10%), 고객 관계 강화(9%) 등 그 외 혜택이 더 크다고 응답했다. 고위 경영진(63%)과 이사회(53%)도 여전히 생성형 AI에 대한 높은 관심을 보이고 있지만 이 수치는 1분기 대비 각각 11%포인트와 8%포인트 하락했다.


[인포그래픽=한국 딜로이트 그룹]

생성형 AI 프로젝트를 신속히 선택, 확장이 중요하지만, 응답자의 대다수(68%)가 생성형 AI 실험의 30% 이하만 비즈니스에 접목되어 활용 단계로 전환됐다고 답했다. 생성형 AI 이니셔티브 확장에 있어 응답자들은 기술 인프라(45%)와 데이터 관리(41%)가 가장 잘 준비되어 있다고 답했으며, 전략(37%), 리스크 및 거버넌스(23%), 인재(20%)에 대한 준비는 미흡한 것으로 나타났다.


[인포그래픽=한국 딜로이트 그룹]

데이터 소스의 문서화와 라벨링의 중요성이 커지고 있고, 데이터 액세스 프레임워크와 리터러시(Literacy)에도 많은 주의가 필요하다. 조직이 가장 우려하는 사항으로는 민감한 데이터의 사용(58%), 데이터 개인정보 보호 문제(58%), 데이터 보안 문제(57%)로 집계됐다. 이러한 가운데 많은 조직은 데이터 보안을 강화하는 것(54%) 등의 대응을 추진하고 있는 것으로 조사됐다.


[인포그래픽=한국 딜로이트 그룹]

생성형 AI 툴, 애플리케이션의 성공적인 개발 및 도입과 관련해서는 기업들이 규제의 불확실성으로 인해 어려움을 겪고 있는 것으로 나타났다. 조직의 14%는 구체적인 대응 계획을 세우고 있지 않았다.

또한 41% 조직은 생성형 AI 노력의 정확한 영향을 정의하고 측정하는 데에도 어려움을 겪고 있다. 과반수(54%)의 조직은 효율성과 생산성 향상을 목표로 하고 있지만, 실제로 직원 생산성의 변화를 추적하고 있는 비율은 38%에 그쳤으며 CFO를 위한 정기 보고서를 작성한다고 답한 조직은 16%에 머물렀다.


[인포그래픽=한국 딜로이트 그룹]

추가로 비용이 생성형 AI 이니셔티브에 대한 의사 결정의 핵심 요소가 될 것이라는 의견도 나왔다. 딜로이트는 “앞으로는 생성형 AI 이니셔티브에 대한 투자의 가치를 완전히 이해하기 위해 재무 및 비재무 측정 지표를 종합적으로 활용할 필요가 있다”고 설명했다.

비즈니스 프로세스 근본적 재창조...엄격한 성과 검증도 필수
보고서는 적절한 곳에 생성형 AI를 활용해 효율성, 생산성, 비용 절감을 실현하고 더 많은 가치를 창출해야 한다고 제시했다. 생성형 AI가 다른 기술 및 전략적 이니셔티브와 결합해 생산성을 향상시키고 혁신을 이끌어낼 수 있는 방법을 고안하는 한편, 비즈니스 프로세스를 근본적으로 재창조해 지속 가능한 가치를 지향, 변화를 위해 나아가야 한다는 것이다.

또한 공개된 대규모 언어 모델(LLM)과 퍼블릭 데이터를 활용해 효율성과 생산성을 키우는 것이 더 일반화될 것으로 예상되는 만큼, 기업들은 기본에 충실하면서 변화에 대한 적응성도 강화해야 한다.

아울러 고품질 데이터 부족 문제를 직시, 데이터 기반을 개선하고 B2B 파트너, 데이터 최종 사용자, 타사 데이터 제공업체 등 데이터 에코시스템의 구성원과 전략과 관계 등을 강화해 데이터를 촉매제로 활용하는 것이 중요하다. 나아가 생성형 AI 기술이 발달하며 원대한 비전, 희망적 사고에 의존적 투자가 늘어날 가능성이 있는 가운데 성과를 더욱 엄격한 기준으로 측정하는 것도 필수다.

김진숙 한국 딜로이트 그룹 리스크 자문 부문 파트너는 “이제 생성형 AI 이니셔티브를 통해 지속적인 가치를 창출해야 하며 이를 위해 데이터 및 거버넌스와 리스크, 규정 등 조직의 AI 가치 창출이 더 절실해졌다”면서 “이번 리포트를 통해 조직의 생성형 AI 이니셔티브의 실질적 활용에 대한 의미 있는 인사이트를 얻어가기를 바란다”고 말했다.
[김경애 기자(boan3@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>