[3줄 요약]
1. 22일부터 AI기본법 시행... 거버넌스 확립 기반 마련
2. AI 생성물 표시 의무·고영향 AI 여부 판단
3. 학습용데이터, 실증, 해외진출 지원... 규제 1년 유예

[보안뉴스 강현주 기자] 딥페이크물에는 표시를 하되 딥페이크가 아닌 AI 결과물은 눈에 보이지 않는 디지털 워터마크도 허용한다. 에너지, 먹는 물, 의료 등 10개 영역 활용 여부 등 고영향 AI 여부를 검토하고 안전 조치 책무를 적용한다. 정부가 연구개발 및 학습용 데이터를 제공하고, 실증 기반을 조성한다.

‘인공지능 기본법’(AI기본법)이 22일부터 시행된다고 과학기술정보통신부(부총리 겸 과기정통부 장관 배경훈)가 21일 밝혔다. AI 산업 진흥 기반을 조성하기 위한 법이라는 게 과기정통부의 설명이다.


▲AI기본법이 22일부터 시행된다. [출처: 연합]

딥페이크 여부 표시... 에너지 등 10개 영역은 ‘고영향 AI’
AI기본법은 △투명성 확보 의무 △안전성 확보 의무 △고영향AI 판단 및 사업자의 책무를 규정해 AI 이용의 안전과 신뢰를 강조하고 있다.

투명성 확보 의무를 통해 고영향AI·생성형AI를 활용하는 AI 제품 및 서비스를 제공하는 사업자는 AI 활용 사실을 사전에 이용자에게 고지해야 한다.

딥페이크 결과물에 대해서는 이용자의 연령 등을 고려하여 명확하게 인식할 수 있는 방법으로 표시하도록 규정하였다. 다만 딥페이크가 아닌 AI결과물(애니메이션, 웹툰 등)에 대해서는 가시적 방법뿐 아니라 눈에 보이지 않는 디지털 워터마크도 허용한다. AI사업자가 알림창이나 UI 등을 통해 생성형AI 결과물을 안내하도록 규정했다.

안전성 의무 확보 대상은 학습에 사용된 누적연산량이 10의 26승 부동소수점 연산(FLOPs)이상이고, 최첨단 기술을 적용하며, 위험도가 사람의 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우 등을 모두 충족하는 경우다. 대상이 되면 모니터링, 위험관리체계 구축 등의 의무과 부여된다.

사업자는 고영향AI 여부를 스스로 검토해야 하며, 필요시 과기정통부에 확인 요청을 할 수 있다. 고도로 발전한 AI가 통제 불가능한 상황을 가정하여, 사회적으로 큰 피해 발생 예방이 목적이다. 에너지, 먹는물, 의료, 원자력, 범죄수사, 채용, 대출심사, 교통, 공공서비스, 교육 등 법에서 정하는 10개 영역에서 활용되는지 여부 등이 기준이 된다.

학습용 데이터 지원 ‘통합제공시스템’
AI기본법은 이와 같이 안전과 신뢰를 위한 규정들을 두는 동시에 산업 진흥에 초점을 둔다. △국가 인공지능 거버넌스 확립 △인공지능 R&D 및 학습용데이터의 구축·제공 △인공지능 도입·활용 지원 및 실증기반 조성 △국제협력 및 해외시장 진출 지원 △인공지능집적단지 지정 등이 주요 내용이다.

국가 인공지능 정책의 컨트롤 타워인 국가인공지능전략위원회의 구성·운영 등을 구체화해 국가 AI 정책의 추진 기반을 마련했다.

선도적인 인공지능 기술력 확보와 학습용데이터 구축을 지원하기 위해 ‘통합제공시스템’을 과기정통부장관이 구축·관리한다. 시스템이 갖춰야 하는 기능을 시행령에 규정하여 내실있게 운영될 수 있도록 했다.

기업 실증과 해외 진출 지원... 규제는 1년 유예
기업·공공기관이 AI를 도입하고 활용하도록 하는 확산 지원책을 시행령에 규정했다. 또 기업이 AI기술을 실증 또는 성능 시험을 할 수 있도록 공기업, 정부출연연, 국공립대학 등이 보유한 시설을 기업에게 개방 가능하게 행정적·재정적 지원 근거를 마련했다.

기업의 해외 진출을 지원하기 위하여 기술·인력의 국제교류도 지원한다. 관련 업무를 지원하는 공공기관이나 단체를 지정할 수 있는 근거를 마련했다.

과기정통부는 최소 1년 이상 규제를 유예한다고 밝혔다. 기업 혼란을 최소화하고, 현장에서 충분히 준비할 시간을 제공하기 위함이라는 설명이다. 유예 기간 동안 사실조사, 과태료 관련 계도기간을 운영하며, 사실조사는 인명사고, 인권훼손 등 중대한 사회적 문제 발생하는 등 극히 예외적인 경우에만 규제를 실시할 예정이다.

과기정통부 관계자는 “AI가 경제·사회·문화·국방·안보 등 전 영역에 걸쳐 일상화되는 상황에서 해외 국가의 법 규범 동향 및 기술 발전 추세를 면밀히 모니터링하며 유연하게 대처할 계획”이라며 “특히, AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 글로벌 기업들이 도입하고 있는 세계적인 추세”라고 밝혔다.

이어 “AI기본법 시행을 통해 현장에서의 법적 불확실성이 제거되고 건강하고 안전한 국내 AI생태계가 조성되기를 기대한다”고 말했다.

[강현주 기자(jjoo@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>