[3줄 요약]
1. 온라인 광고 ‘딥페이크 활용’ 표시 훼손 금지 의무화 법안 분석
2. 기존 제도 한계 보완 효과 있지만 사업자 부담 우려
3. 기술지원 및 차등 적용 등 보완책 필요

[보안뉴스 강현주 기자] 현행 법에 따르면, 인공지능(AI)으로 만든 영상은 AI로 제작됐다는 사실을 사용자가 알 수 있도록 고지해야 한다. 이같은 고지를 제대로 안 해 딥페이크 등에 의한 피해가 커질 수 있다는 우려에 고지 의무를 보다 엄격하게 부과해야 한다는 의견도 나온다.

이에 따라 딥페이크물인지 실제 영상인지 구분하게 해주는 AI 제작 여부 고시 및 표시의 훼손 금지 의무화가 추진되는 가운데, 산업계 부담 등을 고려해야 한다는 분석결과가 나왔다.

7일 국회입법조사처는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안(의안번호 2213740) 입법영향분석’ - 온라인 광고의 AI 생성물(딥페이크) 활용 고지·표시의 훼손 또는 위·변조 금지 의무’ 보고서를 공개했다.

이 보고서는 온라인 광고의 딥페이크물 여부 표시의 훼손을 방지하기 위한 취지의 개정법률안을 분석한 결과다.


[자료: 국회입법조사처]

고지 훼손이나 위·변조 광고 게시자 3000만원
현행 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률’은 온라인 광고에서 딥페이크 등 AI 생성물 활용 사실을 고지하도록 규정하고 있다.

하지만 고지·표시가 훼손되거나 위·변조되는 경우에 대한 명확한 규율은 부족하다는 지적이 제기돼 왔다. 이로 인해 형식적 고지만 이뤄진 채 실제론 이용자가 AI 생성 여부를 인식하기 어려운 사례가 생길 수 있다.

개정법률안은 고지 의무의 실효성을 확보하기 위해 고지·표시의 훼손 및 위·변조 행위 자체를 금지함으로써 제도의 빈틈을 보완하려는 취지다.

개정법률안은 딥페이크를 활용한 정보를 정보통신망을 이용해 게시하는 경우 게시자로 하여금 고지 표시를 훼손 및 위조 또는 변조하지 못하도록 한다는 내용이다. 정보통신서비스 제공자는 이를 위반한 광고성 정보를 즉시 삭제하도록 규정한다. 또 AI로 만든 것이라는 고지·표시를 훼손 또는 위·변조한 광고성 정보 게시자에게 3000만원이하의 과태료를 부과한다.

“소비자 권익엔 좋지만 산업계 부담”
입법조사처는 다양한 이해관계자 의견을 수렴해 개정법률안의 장단점을 분석했다. 딥페이크 활용 사실을 명확히 인지할 수 있도록 함으로써 이용자 오인 가능성을 줄일 수 있어 소비자 권익이 향상된다는 게 대표적 장점이다. 자율규제에 의존하던 딥페이크 광고 관리 체계의 한계를 보완하는 효과도 있다.

단점은 훼손 또는 위·변조 여부를 기술적으로 어떻게 판단할 것인지 명확한 기준이 부족하며, 딥페이크 기술이 정교해질수록 사후 입증 부담이 커질 수 있다는 점 등이다. 특히 중소 광고주나 영세 플랫폼 사업자에겐 고지 유지 및 위·변조 방지를 위한 기술적·관리적 조치가 과도한 부담이 될 수 있다는 분석이다.

개정법률안에 대해 한국소비자원은 딥페이크 고지·표시의 훼손 및 위·변조 금지 의무에 대해 “소비자가 광고 콘텐츠의 성격을 명확히 인지할 수 있도록 해 오인·혼동을 예방하는 데 기여한다”며 반색했다. AI 생성물 여부는 소비자 판단에 중대한 영향을 미칠 수 있는 정보인 만큼, 표시를 훼손하는 행위를 금지하는 것은 소비자 권익 보호 측면에서 타당하다는 입장이다.

하지만 산업계는 기업 입장에서 우려를 제기했다.

한국인터넷기업협회는 “고지·표시의 훼손이나 위·변조 여부를 판단하는 기준이 불명확할 경우, 플랫폼과 광고주에게 과도한 법적 불확실성이 발생할 수 있다”며 “중소 사업자나 스타트업의 경우 고지 유지 및 관리에 필요한 기술적·관리적 비용이 부담으로 작용할 수 있다”는 우려 의견을 냈다.

방송미디어통신위원회는 “AI 생성물 표시의 보존을 통해 소비자 오인 피해를 방지할 수 있으나, 기술적 한계로 사업자 부담과 산업 위축 우려가 있다”고 했다. 다만, AI 생성물 여부 고시는 광고뿐 아니라 다른 분야로도 확대할 필요가 있다는 입장이다.

“처벌 중심보다는 책임 분담과 기술 지원 등 병행 필요”
국회입법조사처는 각계 의견을 종합해 제도 보완을 위한 대책으로 △딥페이크 고지·표시의 형식과 요건 구체화해 표준화된 고지 기준 마련 △워터마킹이나 메타데이터 기반 표시 등 자동 검증이 가능한 수단 병행 검토 △처벌 중심 접근보다는 플랫폼 사업자와 광고주 간 단계적 책임 분담 구조 마련 △중소 사업자를 위한 기술 지원과 가이드라인 제공 병행 등을 제시했다.

이를 통해 딥페이크 고지 위변조 금지 의무가 형식적 규제에 그치지 않고 실질적 이용자 보호 장치로 작동할 수 있으리란 기대다.

[강현주 기자(jjoo@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>