인공지능 기술의 발전과 로봇 윤리

[보안뉴스 김성미] 오는 10월 미국 AMC채널은 휴먼스(Humans) 시즌2를 방영한다. 휴먼스는 가까운 미래를 배경으로 인간과 유사한 휴머노이드가 대중화되기 시작하면서 생기는 이야기를 담은 드라마다. 시즌2가 방영되는 것은 지난해 여름 휴먼스 시즌1이 인공지능과 로봇으로 인한 사회의 변화를 굉장히 사실적으로 그렸다는 평가를 받으며 성공리에 종영된 지 1년만이다.


▲ 미국 AMC채널이 방영한 드라마 휴먼스의 한 장면(사진 : AMC 사이트)

휴먼스 시즌 1은 인공지능이 우리 사회에 가져올 여파와 영향들을 집중 조명하는 6부작 드라마였다. 호킨스 가족을 중심으로 인공지능 로봇으로 인한 사회 전반의 변화를 다룬다.

중심인물은 호킨스 가족과 휴머노이드 개발자의 아들인 레오 엘스터(콜린 모건), 그리고 그의 휴머노이드 로봇 가족이다. 레오의 가족은 인공지능의 정점이라고 할 수 있는 고도로 발달된 딥러닝 로봇으로 구성되어 있다.

드라마는 호킨스 가족의 집에 가사 도우미 로봇인 아니타(젬마 챈)가 오면서 시작한다. 호킨스 가족은 로봇으로 인해 편리함을 누리지만, 반대로 로봇으로 인한 본인의 존재 가치에 대한 위기감도 느끼며 갈등을 겪는다.


▲ 아니타는 요리와 육아를 잘하는 가사도우미 로봇이다.

엄마 로라(캐서린 파킨슨)는 자신보다 요리와 육아를 잘하는 인공지능 로봇 애니타의 등장으로 엄마로서의 좌절과 위기를 맛보고, 딸 매티(루시 칼레스)는 직무에 뛰어난 로봇 때문에 학업성취감을 느끼지 못하며 앞으로의 진로에 회의적인 모습을 보인다.

다른 한쪽에서는 레오가 로봇 동생 맥스(이바노 예레미아)와 뿔뿔히 흩어진 로봇 가족찾기에 나서고 있다. 레오의 로봇 가족은 로봇 매매범에 의해 흩어졌는데, 그중 하나인 아니타는 포맷돼 과거의 기억을 잃고 호킨스 가족의 가사 도우미 로봇으로 팔렸다. 레오가 가족을 찾는 과정에서 이들이 감정을 가진 고도의 휴머노이드임을 알게된 사람들은 이들을 통제할 수 없음을 두려워하며 레오 가족을 추적해 온다.

알파고(AlphaGo)의 등장으로 대중들은 이런 드라마나 영화 속 미래 모습이 더이상 가상의 이야기에 그치지 않고 점차 현실화되고 있음을 인식하게 됐다.

SF 주제 아닌 현실의 문제
알파고 이후 인공지능 기술의 흐름에서 뒤처지고 있다는 우리나라의 위기의식이 확산되는 가운데 인공지능은 국가 경쟁력 측면과 아울려 일자리 문제, 법·제도 관련 이슈, 윤리적 과제 등 다양한 숙제를 우리에게 동시에 던져주고 있다.

이런 과제와 고민을 다룬 SF영화의 고전 블레이드 러너(1982년작)의 배경인 2019년이 3년 앞으로 다가온 시점에서 이 문제들이 결코 다른 나라의 문제, 호기심이나 지적 유희 차원의 문제가 아니라 우리의 문제, 현실 문제로 빠르게 다가오고 있는 것이다.

이와 관련 LG경제연구원은 ‘인공지능의 자율성, SF의 주제가 현실의 문제로 다가오고 있다’는 주제의 보고서를 최근 발표했다. 해당 보고서에서는 기술 발전으로 인공지능의 자율성이 높아지면서 인간과 인공지능 둘 중 누구의 의견을 따라야 할지 판단할 수 있는 기준을 마련해야 할 필요성이 제기되고 있다고 강조했다.

아울러 인간 대 인공지능의 문제뿐만 아니라 인공지능끼리의 경쟁에서 발생할 수 있는 갖가지 상황에 대한 우려가 높아지고 있다고 지적했다. 또한, 첨단 기술이 등장할 때마다 거론되던 ‘기술의 가치중립성’ 이슈가 인공지능에도 해당하는지 확인해야 한다고 밝혔다.

학계 주제에서 현실의 이슈로
장기적 관점에서 인간이 자동차의 운전석을 인공지능에 넘겨주는 것은 인간 자신의 생명과 윤리적 문제의 결정권을 모두 기계에 위탁하는 것으로 이는 앞으로 다가올 더 큰 변화의 시작에 불과할 수 있다.

올해 상반기 미국과 일본에서 낮은 수준의 자율주행 기능을 갖춘 자동차들이 여러 건의 교통사고를 일으켰다. 테슬라의 모델 S 운전자가 사망하는 사고도 발생했다.

이를 계기로 자율주행 자동차 사고의 책임을 운전자와 제조사 중 누가 져야 하는지에 대한 관심이 학계 주제에서 현실적 이슈로 부상했다.

아울러 자율주행 자동차가 운전자와 보행자중 누구를 더 보호하도록 개발해야 하는가에 대한 윤리적 문제에 대한 관심도 커졌다.

이미 학계에서는 2000년대 초반부터 인공지능의 의사결정권 등에 대한 논의가 시작됐고, 최근 들어서는 미국 등 선진국을 중심으로 인공지능과 로봇의 상용화에 대비한 법·제도를 마련하려는 움직임도 늘어나고 있다.

이 가운데 지난 6월 말 미국 연방항공청(FAA)이 발표한 UAV(Unmanned Aircraft Vehicle) 운용 규정은 인공지능과 로봇의 상용화에 대비한 최초의 제도적 대응으로 꼽을 수 있다.

2000년 들어 늘어난 사고들
지난 7월에는 미국 캘리포니아 주의 한 쇼핑센터에서 최신형 보안 서비스 로봇이 16개월 된 유아를 공격해 다치게 한 사고도 발생했다. 사고 발생 이후 이와 유사한 사례들이 전에도 발생했다는 것이 드러났다. 테슬라의 사고와 함께 모두 찰나의 순간(Oops Moments)에 발생한 사고였다.


▲ 쇼핑센터에서 어린이를 공격한 로봇 경찰(Robot Cop) (자료 : LG경제연구원)

사실 이런 사고는 인공지능과 로봇 사용 경험이 가장 풍부한 방위산업 분야에서는 익숙할 만큼 빈번히 발생했다.

폭발물 제거용으로 사용되던 탤론(Talon)이란 군사용 로봇은 가끔 자폐증 환자처럼 움직인다고 해서 사용자들이 레인맨(Rain Man)이란 별명으로 부를 정도였다. 1988년 개봉한 레인맨은 자폐증 환자를 주인공으로 한 더스틴 호프만과 톰 크루즈 주연의 영화다.

최근에는 인공지능이나 로봇의 충실한 역할 수행도 사고의 실마리가 될 수 있다는 점에서 심각한 문제가 됐다. 인공지능과 로봇이 자율성을 갖췄기 때문이다. 자율성이란 스스로 의사결정을 할 수 있는 능력을 의미하는데, 의사결정 단계가 많을수록 인공지능의 자율성 수준도 높아지며 그만큼 사고로 연결될 가능성도 커진다고 전문가들은 지적한다.

일상으로 확산되는 인공지능
이처럼 그간 방산, 금융서비스 등 전문적인 영역에 사용되어 대중이 체감하지 못했던 인공지능이 이제 일상으로 서서히 영역을 확대하며, 인간의 개입 없이 스스로 판단하고 행동할 만큼 우수해지고 있다.

IoT, 빅데이터가 일상에서 활용되는 모습이나 구글과 테슬라가 2020년 상용화를 목표로 자율주행차의 개발에 박차를 가하고 있으며, 아마존 등은 물류 분야에 드론을 이용한 서비스를 추진하고 있는 모습이 이를 방증한다.


▲ 레인맨이란 별명을 얻은 군사용 로봇, 탤론
(자료 : LG경제연구원)
그러나 많은 전문가는 인공지능의 활용이 늘어날수록 자율적인 인공지능의 활동이 사람과 갈등을 빚는 공간이나 영역이 늘어날 가능성이 높다고 보고 있다. 인공지능의 영향이 미치는 영역이 개인에서 사회나 국가로 확대되고, 영향력 수준도 사소한 불만족에서 재산손실, 인명피해까지 이를 수 있다는 것이다.

사람과 인공지능은 상황판단이나 결심, 행동 과정에서 각기 다른 결정을 내릴 수 있다. 따라서 인공지능이 사용자의 지시나 기대와 다른 결정을 내릴 경우 큰 혼란에 빠질 가능성이 높다.

가정에서는 가구나 가전기기와의 충돌이, 병원에서는 인공지능이 내린 진단이, 도로에서는 자율주행 자동차를 둘러싼 고민이, 온라인에서는 자동매매 시스템과의 경쟁이, 전쟁터에서는 킬러 로봇의 결정으로 큰 혼란이 야기될 수 있다.

착한 인공지능 vs 나쁜 인공지능
일부 전문가들은 ‘사용한 사람이 나쁜 것이지 도구 자체가 나쁜 것은 아니다’라는 오랜 믿음이 무참히 깨질 수 있다고 본다. 학습능력을 갖춘 자율적 인공지능은 성장과정에 따라 착하거나 나쁜 성향을 가질 수도 있다는 것이 그 이유였다.

이를 뒷받침 하는 사례로 마이크로소프트의 딥러닝 인공지능 챗봇(Chatbot) 테이(Tay : Thinking about You)를 꼽을 수 있다.

원래 테이는 19세 미국 여성의 대화 패턴을 모방해 트윗을 통해 18~24세 연령층과 즐거운 대화를 할 수 있도록 개발된 인공지능이었다. 헌데 가동되고 얼마 되지 않아 인종차별적이거나 성폭력적 발언을 서슴없이 하면서 논란을 일으켰다. 이에 마이크로소프트는 가동 16시간 만에 테이의 서비스를 중단했다.

테이가 폭력적인 발언을 하도록 성장한 이유는 백인우월주의자, 여성 혐오자, 무슬림 혐오자 등 편향된 성향을 지닌 사람들이 차별적인 발언을 유도하기 위해 나쁜 지식을 집중 학습시켰기 때문으로 추정되고 있다.

로봇 윤리, 안전장치 개발 등 관심 높아져
이러한 테이의 사례는 인공지능도 사람과 마찬가지로 어떤 경험을 쌓으며 성장하느냐에 따라 성격이 달라질 수 있는 가치중립적 존재라는 사실이 입증된 것으로 볼 수 있다.

이에 대해 LG경제연구원은 인공지능의 자율성 수준은 관련 기술의 완성도뿐만 아니라 도입용도, 적용분야, 영향력, 개발자의 철학 등에 따라 다양해 진다고 봤다.

따라서 연구자들은 “과학기술의 발전은 병적인 범죄자의 손에 들린 도끼와 같다”고 했던 알버트 아인슈타인의 경고처럼 시스템의 자율성 범위 확대에 상응해 책임 문제를 폭넓게 고려해야 한다는 지적이다.

다행인 것은 최근에는 인공지능 도입 가속화에 따라 로봇 윤리 연구에 관한 관심이 높아지고 있고, 개발자들이 인류의 위협이 되지 않을 행동을 할 것을 스스로 믿게 만드는 논리구조를 적용한 우호적 인공지능 개발에 나서고 있다는 사실이다. 더 적극적이고 강력한 안전장치로 인공지능의 폭주를 막기 위한 킬 스위치(Kill Switch)와 같은 능동적 보호장치도 개발되고 있다.

로봇 윤리는 인공지능이 유발할 수 있는 각종 사회적·윤리적 문제의 발굴과 해결 방향을 모색하기 위한 철학적 이론적 기반을 갖추려는 학문적 노력이다.

또한, 각국 정부의 인공지능과 로봇 도입에 대비해 관련 법규와 제도를 정비하려는 각국 정부의 움직임도 늘어나고, 이에 대한 기업들의 반응도 속도를 내고 있는 만큼 이를 조금 더 지켜볼 필요가 있다.
[김성미 기자(sw@infothe.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>