인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기

[보안뉴스 원병철 기자] “인공지능이 인류의 마지막 기술일 수 있다!” 세계적인 석학 스티븐 호킹 박사는 아주 짧지만 명확한 경고의 메시지를 반복해 전했다. MS의 빌 게이츠, 애플의 스티브 위즈니악, 테슬라의 일론 머스크 등 세계적인 빅테크 기업 수장들도 인공지능의 위험성에 대해 경고의 목소리를 똑같이 내고 있다. 닉 보스트롬, 스튜어드 러셀, 프랭크 윌첵, 맥스 태그마크 등 노벨상 수상자나 세계 유수의 대학교수들도 “인공지능이 인류 사상 최대의 성과인 동시에 최후의 성과이자 인류의 재앙이 될 수 있다!”고 주장했다.


▲AI는 양심이 없다[표지=헤이북스]
정보화 사회에서 미래 지능정보사회로의 대전환을 이끄는 4차 산업혁명의 혁신 신기술 가운데 최고의 핵심 기술은 바로 인공지능이다. 70년이라는 짧지 않은 역사에도 불구하고 인공지능의 존재감과 위력을 전 세계인들이 대중적으로 인식하기 시작한 지는 겨우 10년 남짓 됐지만, 한편으로는 인공지능의 어두운 그늘에 대한 심각한 경고가 집중적으로 표출되고 있었다.

2016년 구글의 인공지능 알파고가 바둑 천재 이세돌 9단을 4승 1패로 이긴 사건으로 인공지능이 우리의 생각보다 얼마나 더 똑똑할 수 있는지를 목격하며 큰 충격을 받았고, 곧바로 인공지능의 엄청난 잠재력과 발전 가능성에 대한 기대감으로 정부는 물론 기업과 대학 등 사회 전반에 걸쳐 투자 계획이 이뤄졌다. 이후 5년이 지나서야 2021년 인공지능 챗봇 ‘이루다’ 사건으로 우리가 인공지능을 자칫 잘못 다룰 경우 얼마나 불안하고 불편하며, 심지어 위험하기까지 한 상황이 연출될 수 있는지 깨닫게 됐다.

검찰과 경찰을 대상으로 컴퓨터범죄 수사 기법을 교육해오며 정보보호와 디지털 윤리가 갈수록 중요함을 느낀 저자 김명주 교수는 인터넷윤리실천운동을 전개하면서 인문학 및 사회과학 전문가들과 더불어 2년 넘게 연구해 2018년 국내 최초로 인공지능 윤리 가이드라인 ‘Seoul PACT’를 만들었다. 인공지능에 의한 부작용과 역기능, 위험성을 모두 법으로 포괄해내기에는 시간적으로 따라잡기 힘들 만큼 인공지능의 발전 속도는 빠르다. 아울러 인공지능이 미치는 사회 영역 역시 전문가들도 가늠할 수 없을 정도로 광활해 모두를 한곳에 집약해 소수가 관리하는 것 자체가 불가능하다. 따라서 ‘처음 시작 단계부터’ 발전 방향을 올바르게 잡아야 하고 사회적 담론을 최대한 형성해야 하는데, 그 핵심이 ‘인공지능 윤리’이기 때문이다.

네이버, 카카오, KT 등 국내 최고 IT 기업의 인공지능연구 책임자들이 AI 관계자들의 교과서, AI 연구개발자들의 필독서라며 강력하게 추천하는 이유가, 이 책 ‘AI는 양심이 없다’가 담고 있는 ‘인공지능으로 인해 사회적 대전환이 시작되면 부작용과 역기능, 심지어 심각한 위험성이 드러난다고 해도 다시 원래로 되돌리는 것은 불가능하다’는 문제의식 때문이다. 그렇기 때문에 이 책은 AI 관계자나 전문가뿐만 아니라 우리 사회가 함께 읽어야 하며, ‘미래 AI 시대에 대한 방어적 준비’에 관해 이야기를 나누어야 한다.

저자는 인공지능이 열어줄 미래에 대한 올바른 방향 제시와 더불어 구체적인 준비도 따라야 함을 강조한다. 비가역적인 사회 대전환이 따라오기 때문에 발생 가능한 문제와 상황에 대해 소수의 전문가 중심에서 벗어나 사회 구성원 모두가 이해하며 공감할 수 있어야 한다는 논지다. 저자는 미래에 인공지능에게 배신당하지 않고 함께 살아가려면 어떻게 해야 할지, 지혜를 찾고자 했다. 이 지혜를 ‘윤리’라는 단어 안에 함축했다. 윤리는 가치 판단의 기준으로 사람에게 요구된다. 그리고 이 윤리는 사람만이 가지고 있는 ‘양심’으로 인하여 발현한다. 반면에 인공지능은 ‘양심’이 없다. 인공지능으로 인하여 등장하는 윤리적인 문제의 근원은 바로 이것이다. 책 제목도 이렇게 정해졌다.

그렇다면 인공지능 윤리의 기본 원칙에는 무엇이 있어야 할까? 저자가 여러 전문가들과 더불어 연구하여 2018년 국내 최초로 만든 인공지능 윤리 가이드라인 ‘Seoul PACT’의 경우를 들여다보자. 인공지능의 특성을 기반으로 도출된 네 가지 기본 원칙인 △공공성(publicness) △책무성(accountability) △통제성(controllability) △투명성(transparency), 즉 영단어 첫 글자를 딴 ‘PACT’다. 이는 이듬해인 2019년에 OECD가 발표한 ‘인공지능 윤리 원칙’과 거의 일치한다. 2020년 말에 발표된 우리나라의 ‘국가 인공지능 윤리 기준’도 유사한 원칙을 제시하고 있다. 이러한 윤리 기준과 원칙을 출발점으로 하여 구체적인 실무 지침 그리고 나중에는 인공지능 법까지도 만들어진다.

전 국민 누구나 인공지능 제품 또는 인공지능 서비스의 이용자가 될 수 있다. 인공지능이 이끌 4차 산업혁명 시대와 지능정보사회의 시각에서 볼 때, 모든 구성원이 인공지능 이용에 있어서 갖춰야 할 시각과 자세를 미리 알아두는 것은 꼭 필요하다. 저자는 인공지능 윤리 가이드라인을 소개하며, 독자들에게 “인공지능 시대, 나는 어떻게 생각하고 준비하며 행동해야 할까?”라는 질문에 대한 밑그림도 각자 그려보기를 제안한다.

[추천사]
하정우 네이버 AI Lab 인공지능연구소장
최근 인공지능 기술의 놀라운 발전은 기계·전기·컴퓨터 등과 마찬가지로 인류에게 기존 기술로 불가능했던 혁신적인 가치와 기회를 제공하기도 하지만, 뜻하지 않은 위험과 위기를 가져올 수도 있다. 이 책에서는 인공지능을 기회와 위기 양쪽의 의미로 기존 사회를 흔드는 손으로서 체계적으로 설명한다. 연구자로서 양날의 검인 인공지능에 대해 다시 한 번 고민하게 하고, 어떤 방향으로 인공지능 기술을 연구 개발해야 하는지 반성하게 하는 중요한 책이다.

김대원 카카오 CDR Lab 정책팀장(상무)
김명주 교수는 인공지능 윤리의 대표적인 권위자다. 특히, 기술을 기반으로 인공지능 윤리를 바라보는 몇 안 되는 전문가다. 기술에 대한 이해 없이 선언적인 시각에서 바라보는 인공지능 윤리는 절반의 이야기만을 담고 있다. 그 자체가 편향성을 띄고 있기도 하다. 기술에 대한 충분한 이해가 토대가 된 이 책은 교조적이지 않다. 사례 중심에서 우리 사회가 함께 고민해야 할 주제를 차분히 정리하고 있다.

배순민 KT AI2XL 인공지능연구소장
우리는 이미 AI 시대를 살고 있다. 얼굴 인식이나 글자 인식은 보편적으로 쓰이며, AI와 음성으로 대화하는 것도 일상이다. 그럼에도 AI에 대한 불안과 두려움이 만연해 있다. 사용자와 개발자 간 AI의 능력에 대한 인식 차이도 제법 크다. 이 책은 이런 ‘인공지능 격차’를 해소해줄 인문·사회과학서다. 인공지능 기술과 윤리에 대한 이해도를 높이고 싶은 독자나 인류와 공존할 수 있고 신뢰할 수 있는 인공지능을 만드는 것에 관심이 있는 AI 연구 개발자들에게 필독서로 추천한다.
[원병철 기자(boanone@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>