선거 당일로부터 60일 이내에 악성 데이터 만들어 유포할 수 없어
딥페이크 이용해 성인 콘텐츠 만들려면 당사자 동의 있어야 하고, 취소도 가능

[보안뉴스 문가용 기자] 미국 캘리포니아 주가 정치적인 연설을 할 때와 일부 성인물에서 딥페이크 기술을 사용하지 못하도록 하는 법안을 통과시켰다.


[이미지 = iclickart]

딥페이크는 인공지능을 활용해 이미지와 음성 데이터를 조작하는 기술로, 하지 않은 말과 행동을 진짜로 한 것처럼 음성과 영상을 만들어 낼 수 있다. 누군가의 행동이 담긴 영상에 얼굴만 바꿀 수도 있고, 누군가 말하는 입모양만 따내서 다른 사람의 얼굴에 입힐 수도 있다. 매우 발전된 ‘포샵질’이라고 말할 수도 있다.

디지털 시각화 전문 업체인 제로폭스(ZeroFOX)의 CSO 샘 스몰(Sam Small)은 “딥페이크는 사실상 우리의 인지 체계에 대한 신뢰 그 자체를 공격하는 수단”이라고 정의한다. “보는 것이 믿는 것이라는 말이 더 이상 통용되지 않게 되는 것이죠.”

캘리포니아의 주지사인 개빈 뉴섬(Gavin Newsom)이 딥페이크의 남용을 막고자 하는 법안에 서명을 하게 된 건 2020년에 있을 선거를 보호하고, 디지털 기술을 활용해 만들어진 가짜의 성인 콘텐츠물이 배포될 경우 범행을 저지른 사람이 받을 형벌을 늘리기 위해서다.

먼저 정치적 사안에 있어서 이번에 통과된 법안은 “정치적 선거 운동을 할 때 딥페이크 기술을 사용할 수 없다”고 명시하고 있다. 특히 선거가 벌어지기 전 60일 이내에, 특정 후보와 관련된 악의적이고 진실하지 않은 영상이나 음성 데이터를 만드는 행위는 철저하게 단속될 것이라고 한다. 이는 후보자들을 보호하고, 유권자들이 속지 않도록 하기 위한 것이다. 다만 “영상이 가짜로 제작된 것을 명시한다면 딥페이크 기술을 사용해도 된다”고 한다.

성인 콘텐츠물에 관해서 이번에 통과된 법안은 디지털 기술을 가지고 음란물을 만들 때 반드시 당사자의 허락을 먼저 구하도록 명시하고 있다. 또한 그 당사자가 영업일 기준 3일 내에 동의한 바를 취소할 수 있도록 시간을 줘야 한다고도 되어 있다. “허락 없이 딥페이크 기술을 가지고 성인 콘텐츠를 제작할 경우, 당사자에게 되돌릴 수 없는 상처와 피해를 줄 수 있게 된다”고 뉴섬은 말했다.

캘리포니아 주가 이러한 움직임을 취하기 전, 텍사스 주에서도 비슷한 법안이 통과됐었다. 딥페이크와 관련하여 불법(선거 전 30일 내에 후보를 음해하기 위한 목적으로 딥페이크 기술을 사용했을 때)을 저지를 경우 범인은 최대 1년의 징역형과 4천 달러의 벌금형에 처하게 된다.

딥페이크는 공상 과학 기술이나 아직 구현되지 않은 이론상의 기술이 아니다. 얼마 전 한 사이버 사기꾼은 한 회사의 CEO 목소리를 딥페이크 기술로 구현하여 회사로 전화를 한 뒤 24만 달러를 헝가리의 파트너사로 송금하라고 지시했다. 전화를 받은 사람은 CEO인 것을 의심치 않고 돈을 보냈다.

미디어 트러스트(The Media Trust)의 CEO인 크리스 올슨(Chris Olson)은 “딥페이크는 지난 2016년 미국 대선 때 목도했던 러시아 해커들의 여론 조작보다 훨씬 더 거대한 위협”이라고 표현한다. “민주주의의 가장 큰 기둥인 사법 체계와 언론의 기능을 신뢰하지 못하게 만들기 때문입니다. 거짓 정보가 너무나 그럴 듯하게 퍼져가게 됨으로써 사회적으로도 적잖은 혼란을 야기할 수 있습니다.”

그러면서 올슨은 “메시지의 정확성을 확인하는 것보다, 메커니즘의 취약점을 고쳐야 가짜뉴스 등이 살포되고 계속해서 번져가는 걸 막을 수 있다”고 주장한다. 여기서 그가 말하는 메커니즘이란 뉴스가 디지털 세계에서 공급되는 망을 말한다. “결국 가짜뉴스를 배포하는 자들도 이 메커니즘을 악용하는 것입니다. 뉴스의 공급망 내에 있는 모든 사람들이 1) 뉴스의 출처가 어디이며, 2) 어떤 목적을 가지고 작성되었는가를 꼼꼼하게 검토하고, 그 정보를 같이 공유해야 합니다. 또한 그런 정보를, 신뢰할 만한 파트너들과만 공유하는 것도 중요합니다.”

캘리포니아와 텍사스 주에서 이러한 법안이 통과될 때 반대하는 목소리도 있었다. 미국시민자유연맹(American Civil Liberties Union)의 경우, 표현의 자유를 심각하게 침해할 수 있다고 뉴섬에게 여러 번 비판의 메시지를 전달했다고 한다. 그러면서 “누군가는 이 법을 교묘하게 피해서 가짜 영상과 음성을 퍼트릴 것”이라고 장담하기도 했다.

캘리포니아 방송인 협회(California Broadcasters Association)의 부회장인 마크 파워즈(Mark Powers)는 “라디오와 TV 방송국들은 지키기 어려운 법”이라고 불만을 토로했다. “광고주와 계약을 맺을 때 해당 영상이나 음성이 딥페이크 기술로 만들어진 것인지 아닌지 확인할 기술을 방송국은 갖추지 못했습니다. 그렇다는 건 광고를 받으면서 불법을 저지를 수 있다는 위험부담을 같이 가져간다는 뜻이 됩니다. 그렇다고 광고를 안 받을 수도 없고요. 방송이라는 산업이 난관에 부딪히게 됐습니다.”

3줄 요약
1. 캘리포니아 주, 텍사스에 이어 딥페이크의 정치적 활용 금지시킴.
2. 성인 콘텐츠물 제작 시에도 당사자들의 허락 구해야 함. 허락한 당사자가 취소시킬 수도 있음.
3. 언론의 자유 침해 우려되기도. 방송국의 먹고 살 걱정 늘어나기도.
[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>