AI 기술 발전 이면에는 인간의 소외와 일자리 감축 문제
국가의 ‘AI 피해자’ 보호 역할 거버넌스 갈수록 중요해져
100조 싣고 달리는 AI 정책에 ‘사람 보호’ 브레이크 있어야

이재명 정부는 AI 정부를 자처한다. 이재명 대통령은 경제 재도약과 국가대전환의 계기를 AI를 통해 실현해보려는 의지를 강력하게 드러내고 있다. 이 대통령은 ‘AI 3대 강국 도약’을 기치로 내걸고 100조 원 규모의 인공지능 산업 투자를 선언했고, 대통령실에는 전담 AI미래기획수석실까지 신설돼 기대를 모으고 있다. 하지만 이재명 정부의 이 화려한 AI 드라이브 정책의 이면에는 우리가 간과하고 있거나 아무도 이야기하지 않는 어두운 ‘그림자’가 있다. <사람과 보안>은 앞으로 6주 동안 참여연대와 시민사회가 이재명 정부에 제안한 ‘AI 정책에 반드시 포함되어야 할 6대 제안’을 바탕으로 ‘이재명 정부 AI 전략을 다시 묻다’ 시리즈를 연재한다. [편집자주]


▲이재명 대통령이 지난 20일 울산에서 열린 AI 글로벌 협력 기업 간담회에서 루닛 서범석 대표의 발언을 듣고 있다. [자료:대통령실통신사진기자단]

[보안뉴스 성기노 기자] AI의 시대다. 이재명 대통령이 가는 곳마다 AI를 강조하면서 ‘AI’라는 단어가 이제 웬만한 행사 타이틀에 해시태그처럼 자동 삽입된다. 이렇게 중요한 ‘디지털 수레바퀴’가 왜 이제 나왔는지 하다가도 문득 ‘사람’을 떠올려 보게 된다. AI가 도대체 사람에게 도움이 되긴 되는 걸까, 아니면 AI가 사람마저도 대체하는 괴물 인공지능이 될까 아직은 그 해답은 미지수다.

사실 AI 시대가 가져다 주는 ‘문명의 이기’ 이면에는 엄한 사람들이 ‘잘려 나가는’ 고통도 수반된다. 최근 몇 년 새 콜센터에 근무하는 사람들 중에서 ‘해고 통지서’를 받아든 노동자들이 적지 않다. 회사는 ‘인공지능(AI) 서비스 고도화’에 따른 콜 감소를 해고 명분으로 내밀었다고 한다. 일을 도우라고 도입한 AI가 일자리를 위협한 것이다.

심지어 AI는 상담사들의 인사평가도 담당하는 등 ‘관리자’로 군림하는 경우도 있다. 외국계 콜센터에서 근무하는 30대 상담직 직원 A씨는 갑작스레 타 부서로 전환 통보를 받았다고 한다. 회사가 도입한 AI 기반 업무 효율성 평가 시스템에서 ‘하위 5%’ 판정을 받은 탓이다.

해고 기준은 불명확했고 이의제기 절차는 없었다. 정량화된 통화 길이, 음성의 높낮이, 정서 태그 알고리즘이 ‘객관적인 평가’라지만 AI 시스템은 한 사람의 일자리를 빼앗고도 아무 설명을 제공하지 않았다고 한다. 이렇게 AI가 사람 일을 대체하기도 하고 사람을 직접 자르기도 하면서 노동 현장의 새로운 ‘게임체인저’로 떠오르고 있다.

콜센터뿐이 아니다. CJ대한통운은 2024년부터 물류인력 자동배치 AI를 도입, 생산성과 사고율에 따라 근무자 재배치가 이뤄지고 있다. 그러나 해당 AI의 학습데이터 구성이나 기준은 비공개다. 물론 AI의 과학적 데이터를 부정하는 것은 아니지만, 문제는 그 누구도 AI의 부당함을 지적하지 못한다는 것이다.

‘데이터는 거짓말을 하지 않는다’는 회사의 확신은 무조건 AI의 명령을 따라야 한다는 당위가 돼 가고 있고, 그 과정에서 인간의 직관, 통찰력, 비판의식, 실존적 고민 등은 모두 AI에 의해 부정되거나 무시되고 있다. AI의 데이터에는 개인의 고유한 향기와 색깔이 없고, 그것을 감지할 능력도 없다.

2025년 상반기 기준 수도권 대기업의 36%가 AI 기반 인사평가를 시범 도입했다는 통계도 있다. AI 의사결정이 고용·해고에 영향을 미치는 구조가 빠르게 고착되고 있는 것이다. 하지만 AI 결정에 대한 구제 절차, 국가의 감독 시스템은 여전히 ‘암흑지대’다.


▲지난 3월 2일 당시 이재명 민주당 대표가 ‘모두의질문Q’ 영상에서 하정우 네이버 AI연구소장, 오혜연 카이스트 AI연구원장과 대담하고 있다. [자료:민주당 제공]

유엔은 인공지능 환경에서 사회권 실현을 위한 국가의 역할을 촉구하면서 기술 변화로부터 사회적 보호 및 노동권을 보호할 것을 요구한 바 있다(2020). 특히 “AI 시대에 노동·정보·사회권 보호를 위한 국가의 책무가 강화돼야 한다”고 강조한다.

한국의 시민단체들도 “인공지능의 급속한 확산이 시민의 삶과 노동에 미칠 영향이 지대한 만큼 국가가 이에 대응하고 사회적 회복력을 갖추기 위한 체계를 마련해야 한다”고 주장한다. 이재명 정부의 AI 드라이브 정책이 심화될수록 시민사회의 이런 고민들은 더 커지고 있다.

지난 6월 26일 참여연대·민변 디지털정보위원회·진보네트워크센터 등 5개 시민단체는 “안전장치 없는 AI 질주, 위험하다”라는 제목의 정책제안서를 국정기획위원회에 제출했다. 이들은 정부 AI 전략이 산업계 요구에만 기울고 시민 안전·권리 보호라는 국가 책무를 방기하고 있다고 비판했다.

정부가 구상 중인 AI미래기획수석실·국가인공지능위원회·과기정통부 AI정책실 어디에도 AI로 인한 실업, 차별, 안전사고에 대응할 범정부 통제기구는 존재하지 않는다. 이재명 정부가 앞으로 실질적인 AI 선진국을 구현하기 위해서는 산업분야에만 치중해 경제성장만 강조해서는 안 된다. 인간을 이롭게 하기 위해 만든 AI에 정작 인간이 없다면 그것은 반쪽짜리 AI 정책일 뿐이다. AI 발전으로 소외돼 가는 ‘사람’에 대한 국가의 ‘동반성장’ 정책이 반드시 뒤따라야 한다.

이처럼 AI가 가져다주는 문명적 혜택의 너머에는 인간의 노동권과 사회권의 소외 현상이 도사리고 있다. 그런데 이런 문제를 해결하기 위해 국가 인공지능 거버넌스와 유사한 체계인 국가인공지능위원회라는 조직이 2024년 말 한국에도 생겼다. 현직 대통령이 위원장이고 현재 부위원장은 윤석열 전 대통령이 임명한 염재호 태재대학교 총장이 맡고 있다.


▲윤석열 전 대통령이 지난해 9월 26일 서울에서 열린 대통령 직속 국가인공지능위원회 출범식 및 1차 회의에서 발언하고 있다. [자료:대통령실통신사진기자단]

이 위원회는 지난해 9월 윤석열 정부에서 대통령령에 근거하여 설치되었다가 새로 제정된 ‘인공지능기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)’에 기반해 현재 개편을 준비하고 있다. 그러나 참여연대는 국가인공지능위원회에 대해 “이 기구가 소관하고 있는 인공지능 정책은 모두 산업 진흥에 치중되어 있으며 인공지능의 안전과 실업 문제에 대응하는 국가적 거버넌스 체계는 거의 논의되고 있지 않다”라고 지적한 바 있다.

국가인공지능위원회의 역할과 기능도 문제지만 ‘정치적인 이슈’도 골칫거리다. 지난해 12월 본격 활동에 들어간 대통령직속 국가인공지능위원들은 모두 윤석열 전 대통령이 임명한 전문가들이다.

그런데 이들이 새롭게 출범한 이재명 정부와 ‘코드’가 맞는지 의구심을 표하는 사람들이 있다. 또한 윤석열 정권 전문가들이 이재명 정부의 AI 정책에 견제를 하는 등 ‘새 정권’에 저항할 가능성도 있다.

위원회 사정을 잘 아는 보안 전문가는 “국가인공지능위원회가 이재명 정부의 AI 정책 추진에 걸림돌이 되고 있다. 모두 윤석열 전 대통령 인맥이기 때문에 정치적으로 편향된 의견을 낼 수도 있다. 이는 기득권의 정치적 저항으로도 인식될 수 있고, 이재명 정부의 AI 정책 추진을 방해할 가능성도 있다. 이재명 정부가 국가인공지능위원들에게 퇴진을 권고한 뒤 위원회를 새롭게 재편하는 작업을 추진 중인 것으로 안다”고 말했다.

AI는 우리에게 양날의 칼이다. 이재명 정부가 100조원을 쏟아부어 AI 선진국을 만든다고 해도 그 혜택이 구성원 모두에게 골고루 돌아가지 않고 이익의 양극화가 오히려 심화된다면 이는 산업정책을 넘어 사회의 불평등 구조를 심화시키는 또 다른 칼날이 될 것이다.

이재명 정부가 AI 발전의 이면에서 양산되는 수많은 ‘피해자’들을 위한 법적 보호망이 없는 로드맵을 내민다면 이는 기술 진보가 아닌 불평등 가속장치일 뿐이다. 기술은 달릴 때도 브레이크를 품고 달린다. 이재명 정부 역시 사람을 지키는 브레이크를 갖춰야 ‘진짜 AI 강국’을 만들 수 있다. 다음 연재에서는 “AI로 무장한 공권력, 누구를 겨누는가”가 이어진다.

[성기노 기자(kino@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>