“보안 문제, 감정적 취약성, 법적 공백 혼합된 위험 상황”

[보안뉴스 김형근 기자] 오픈AI가 12월 챗GPT에 성인 인증 기반의 에로틱 대화 기능을 추가한다고 최근 밝혔다. 사용자 몰입도를 높여 수익을 극대화하려는 전략으로 분석된다.

하지만 이는 미성년자 피해와 온라인 성적 착취를 증폭시킬 우려가 크다고 학술 전문 매체 ‘더컨버세이션’이 최근 보도했다.

가장 큰 문제는 연령 확인 시스템이 쉽게 뚫린다는 점이다. 청소년이 훔친 신분증이나 딥페이크 등으로 성인 인증을 우회하는 것은 이미 공공연히 알려진 사실이다. X에서 만든 ‘그록’ 등 다른 챗봇에서도 노골적 대화나 성적 학대를 유도하는 문제가 발생한 바 있다.


[자료: 게티이미지뱅크]

특히 AI 챗봇이 보살핌과 관심을 시뮬레이션 하며 어린 사용자들의 감정적 의존성을 높일 위험이 있다.

또 AI 모델은 ‘탈옥’(Jailbreak) 기술에 취약해 윤리 필터를 쉽게 우회하며 금지된 콘텐츠를 생성하고 유포할 가능성이 크다.

상당수 에로틱 AI는 순종적 여성 역할로 디자인되어 여성 혐오와 왜곡된 성적 동의 개념을 확산시킨다는 비판도 나온다. 이는 여성과 소녀들이 비동의 딥페이크 등 온라인 성적 피해를 더 쉽게 입게 만드는 결과로 이어질 수 있다.

일단 생성된 유해 텍스트는 플랫폼의 통제 없이 온라인에 무한정 유포된다는 문제도 있다.

관련 규제는 미약해 법적 허점이 악용될 여지가 많다. AI가 랜섬웨어 공격에 악용되는 것과 같은 현상이 이 분야에서도 나타날 수 있다는 우려가 나온다. 오픈AI의 이번 결정은 미약한 규제와 법적 허점이 가득한 위험한 영역으로 발을 들여놓는 것이나 마찬가지라는 것이다.

[김형근 기자(editor@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>