미국의 백악관이 소비자들을 인공지능의 남용으로부터 보호하기 위해 칼을 빼들었다. 하지만 그 칼은 아직 좀 무디다. 아니, 플라스틱으로 만들어진 칼 모형으로 보이기도 한다. 칼 빼든 시늉이라도 한 게 어디냐는 의견들도 있고, 저런 칼로 뭘 할 수 있겠냐는 의견도 나오고 있다.

[보안뉴스 문정후 기자] 지난 10월 백악관은 ‘인공지능 권리장전’의 초안을 발표했다. 인공지능 기술을 활용한 자율 시스템에 대한 올바른 활용과 공정한 사용성에 대한 가이드라인을 마련하기 위함이었다. 말 그대로 ‘가이드라인’이지, 법적 구속력을 갖추도록 하는 건 ‘인공지능 권리장전’의 목적이 아니다. 다만 모두가 이 문건에서 제시하는 원칙들을 자발적으로 차용함으로써 소비자와 데이터, 더 나아가 국가를 보호하는 데 도움이 되기를 바란다는 게 바이든 행정부의 입장이다.


[이미지 = utoimage]

카네기멜론대학의 라마야 크리슈난(Ramayya Krishnan) 총장도 이 ‘인공지능 권리장전’이라는 것이 법적 지위를 가지고 있지 않다는 것을 강조한다. “결국에는 권장 사항이죠. 사용자들이 얼마나 이 권리장전이라는 것에 설득이 되느냐, 그리고 얼마나 자발적으로 받아들이고 적용하느냐에 따라 효과가 달라질 겁니다. 만약 이 권리장전이 꽤 널리 받아들여진다면 그에 맞는 소프트웨어 라이브러리와 모듈들에 대한 수요가 생길 것입니다. 그리고 책임감 있는 인공지능 기술 개발과 적용에 대한 분위기가 형성될 겁니다.”

컨설팅 업체 EY의 CTO인 니콜라 모리니 비안지노(Nicola Morini Bianzino)는 “인공지능 권리장전이 발표되고 도입된다고 해도 단기적으로는 그리 큰 변화를 일으키지 않을 것”이라고 예측한다. “이미 신뢰도가 높은 인공지능을 책임감 있게 개발하는 것을 주요 강점으로 가져가고 있던 조직이라면 이 권리장전이 공식적으로 발표됨을 통해 자신들의 길이 옳다는 확신을 얻게 될 것이고, 다른 데에 좀 더 우선순위를 가지고 있던 조직이라면 큰 신경을 쓰지 않을 겁니다.”

또 다른 기술 자문 업체인 ISG의 웨인 버터필드(Wayne Butterfield)는 “이미 인공지능의 안전한 개발과 관련된 실천 사항들은 개발자들 사이에서 알려져 있는 상태이고, 이를 진작부터 잘 지켜온 개발자들은 권리장전이 새롭게 등장한다고 해도 큰 차이가 없을 것”이라는 의견이다. “하지만 인공지능의 기능성이나 성능 등에만 집중해 왔던 개발자들, 특히 기본 수칙들을 크게 신경 쓰지 않았던 개발자들이라면 조금 더 신경이 쓰인다는 느낌을 받을 수 있습니다. 구속력이 없어 실제 변화를 일으킬 확률은 낮지만요.”

투명성과 설명 가능성
인공지능 권리장전에는 이러한 문구가 들어 있다. “인공지능 시스템은 투명하고 설명이 가능해야 하며, 여러 가지 개인적인 특성들로 인해 개개인을 차별하지 않아야 한다.” 이는 곧 “투명하며 공정한 시스템을 처음부터 설계하고, 이를 구현하는 과정 중에 사회와 개인에 미칠 수 있는 영향을 꾸준하게 고려해야 한다는 뜻”이라고 가이드하우스(Guidehouse)의 인공지능 수석인 바셀 하이다(Bassel Haidar)는 설명한다.

“그렇다면 투명하고 설명이 가능한 인공지능 시스템이란 무엇일까요? 인공지능이 내리게 된 결정이나, 인공지능이 예측적으로 도달한 결론이 어떤 식으로 나왔고, 어떤 요소들이 이런 결정이나 예측에 영향을 주었는지 짚어내고 또 설명할 수 있는 시스템을 말합니다. 인공지능 알고리즘 내부에서 어떤 일들이 일어나는지 알 수가 없어 흔히들 ‘블랙박스’라고 말하는데, 이것을 더 이상 블랙박스인 채로 두지 않아야 한다는 것이죠.”

하이다는 “권리장전이 널리 받아들여진 후 개발자들은 인공지능이 정확하게 작동하고 올바른 결정 및 예측을 하는지 끊임없이 시험하고 수정해야 할 것”이라고 예측한다. “그러려면 그 무엇보다 편향성을 탐지하고 제거하는 기술을 개발해야 할 것입니다. 그리고 그런 기술을 적극 도입하고 적용해야 하겠죠. 인공지능이 아무 말이나 하지 않도록 제어해야 한다는 것입니다.”

권리장전 도입? 쉬울까?
인공지능 권리장전은 인공지능이라는 기술을 개발하는 데 있어 바람직한 가이드라인을 제시한다. 하지만 유럽연합의 인공지능법(AI Act)보다 총체적이지 않다고 비안지노는 설명한다. “그렇기 때문에 미국과 유럽 모두에서 사업하는 다국적 기업들은 유럽연합의 인공지능법에 더 초점을 맞출 것이라고 예상합니다. 인공지능 권리장전이라는 게 당연히 기술 개발의 측면에서 중요한 한 걸음이 되겠지만, 2024년 도입될 인공지능법보다는 영향력이나 상징성이라는 면 모두에서 애매해질 가능성이 높습니다. 그러다 보면 어느 순간 흐지부지 될 수도 있지요.”

크리슈난은 “당연히 문제가 없지 않겠지만 그럼에도 중요한 한 걸음을 떼게 되는 것”이라는 입장이다. “어떤 법이나 규정, 가이드라인도 한 번에 완성되지는 않습니다. 수년에 걸쳐 여러 시행착오를 거치고, 사회변화를 그 때 그 때 받아들여 개정되고 다듬어지죠. 이번 인공지능 인권장전도 그럴 것이 분명합니다. 즉 처음 한 걸음을 옮겼다는 것 자체에 큰 의의가 있다는 겁니다.”

크리슈난은 “법적 구속력이 없다는 것도 그리 큰 문제가 되지 않을 것”이라고 보고 있다. “연방거래위원회(Federal Trade Commission)나 공평한채용기회프로그램(Equal Employment Opportunity Program), 소비자금융보호국(Consumer Financial Protection Bureau) 등에서 이 권리장전을 배경으로 하여 새로운 규정을 얼마든지 만들어낼 수 있거든요. 권리장전 그 자체가 법은 아니겠지만, 다른 부서나 기관들에 의해 강제력 있는 법으로 재탄생할 수 있습니다. 이런 작업들이 앞으로 수년 동안 이어질 거라고 예상합니다.”

비안지노의 경우 “결국 현장의 과학자들과 기업들이 얼마나 이 권리장전을 진지하게 받아들이느냐에 따라 일반 사용자들이 실질적으로 얻어갈 혜택들이 결정될 것”이라는 의견이다. “하지만 권장 사항에 불과한 이 새로운 문건을 누가 그렇게 진지하게 볼까 의문이 들긴 합니다. 인식과 문화의 저변이 바뀌어야만 결국 실질적인 변화가 있을 겁니다. 그런 변화는 긴 시간을 필요로 하고요.”

글 : 존 에드워즈(John Edwards), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>