소셜 미디어 등으로 유포되는 유해 콘텐츠는 원본과 해시값 달라져 파일 탐지 어려워
인공지능 통해 고도화한 엑스키퍼 솔루션으로 효과적인 탐지 및 차단 기능 제공

[보안뉴스 이상우 기자] 개인정보보호 전문기업 지란지교데이터(대표 조원희)가 지난 9월 정보통신산업진흥원(NIPA)이 주관하는 ‘AI 바우처 지원 사업’ 수요기업으로 선정돼 기존 유해 영상 차단 기술을 개선한 AI 기반 유해 영상 차단 기술 고도화 개발 작업을 마쳤다. 지란지교데이터는 공급기업의 ‘콘텐츠 기반 딥러닝 분석 도구 및 통합시스템’을 활용해 ‘AI 기반 음란 영상 및 스트리밍 차단 기술’을 개발하고 내부 솔루션에 적용한다는 계획이다.


[이미지=utoimage]

가장 먼저 이 기능을 적용할 엑스키퍼(XKEEPER)는 PC 및 스마트폰 종합 사용 관리 플랫폼으로 유해 동영상 차단 외에도 △유해사이트 차단 △일일 사용시간 관리 △실시간 위치확인 △보행 중 모바일 사용방지 △잠금 시간대 설정 △부모 스마트폰을 통한 원격관리 등의 기능을 제공한다. 이를 통해 자녀의 PC 및 스마트기기 오‧남용을 방지하는 데 도움을 준다.

지란지교데이터 조원희 대표는 “올해 초 터진 ’n번방’ 사건으로 음란물의 유통과 확산이 우리 사회의 주요 문제 중 하나로 제기됨에 따라 PC 및 스마트 기기를 통한 유해‧음란 영상의 재생을 막는 영상 차단 기술이 다시금 주목받기 시작했다”며, “정보통신산업진흥원(NIPA)의 지원으로 더 진보된 아동 청소년 보호 서비스를 제공할 수 있게 된 셈”이라고 설명했다.

또한, “AI 바우처 지원사업으로 소프트웨어 개발사와 AI 전문회사 간 협업으로 건강하고 모범적인 AI 기반 생태계 조성 사례로 기록되길 희망한다. 이 사업을 계기로 기술개발 혜택은 물론 향후 신사업 진출이나 자사 매출 향상에도 도움이 될 것”이라고 전했다.

지난 2018년 여성가족부가 조사한 청소년 매체이용 및 유해환경 실태조사에 따르면 초등학생의 성인용 영상물 이용률이 2016년도에 18.6%에서 2018년도 19.6%로 증가한 것으로 확인됐다. 스마트폰 보급의 확산으로 사용자 연령층이 낮아지면서 음란물의 경험 시기가 점차 저연령화 되고 있는 것으로 나타났다. 더욱이 코로나19의 전국적인 확산으로 청소년들이 집에서 머무는 시간이 늘어남에 따라 음란물 이용률 역시 증가할 것으로 예상된다. 실제로 온라인 학부모 커뮤니티에는 자녀가 원격수업 중 유해 동영상을 보고 있었다는 고민의 글도 올라오고 있다.

최근 P2P, 메신저, 소셜 미디어, 웹 사이트를 통해 공유, 재생되는 음란 영상은 대부분 하이라이트 편집, 문구 삽입 등 변형된 형태로 저장된다. 원본 파일이 변형되면 파일 고유의 해시값도 함께 변경되기 때문에 유해영상 차단이 어려워진다. 더욱이 향후 음란 영상의 유통이 점차 은밀해지고, 지능화될 것으로 예상되기 때문에 다양한 형태의 음란 영상에 대한 차단 기술 구현이 필요한 상황이다.

이번 정보통신산업진흥원(NIPA) 지원 아래 고도화한 ‘AI 기반 유해 영상 및 이미지 데이터 분석, 가공 엔진’으로 다채롭고 수많은 유해 영상 학습 데이터를 구축하고 파일 변형 및 해시값 변경과 무관하게 유해물을 인식‧차단할 수 있게 된다. 또한, 제한된 영상물 차단에서 벗어나 이미지, 음성파일, 음란 영상 스트리밍 URL 등 다양한 형태의 소스를 사전에 진단하고 차단 영역을 확장해 유해물 노출 위험도 최소화할 수 있다는 장점이 있다.
[이상우 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>