인공지능 기반 보안기업으로 거듭난다.. 생성형 AI 데이터 보안 시장 개척

[보안뉴스 원병철 기자] 최근 챗지피티(ChatGPT)와 클로드(Claude) 등 생성형 AI의 활용이 빠르게 확산하고 있다. 학생과 직장인 등 일반 사용자가 손쉽게 접속하고 활용할 수 있기 때문이다. 그러나 생성형 AI의 접근성이 좋다는 점은 동시에 새로운 보안 위협을 불러오고 있다. 사용자들이 무의식적으로 개인정보나 민감 정보를 프롬프트에 입력하고 있어서다. 이는 기업의 업무 환경 속에서 더 큰 위협을 초래할 수 있다. 입력한 회사 정보가 향후 AI의 학습 데이터로 활용되거나, 타인의 프롬프트 답변에 노출될 수 있기 때문이다.


▲스핑크스 에이아이(Sphinx AI)[자료: 컴트루테크놀로지]
이와 같은 우려로 일부 기업과 기관은 생성형 AI의 도입을 주저하거나 제한적으로 사용하고 있다. 정보 유출이 가능한 상황에서 아예 사용 자체를 차단하려고도 한다. 생성형 AI의 안전한 활용을 위한 보안 준비가 필요한 시점이다.

혁신과 보안을 한 번에 지키는 방법, Sphinx AI
컴트루테크놀로지는 이러한 양면성을 해결하기 위해 생성형 AI 데이터 보안 솔루션 ‘스핑크스 에이아이(Sphinx AI)’를 론칭했다. △프롬프트 내 개인정보 유출 방지 △첨부파일 내 개인정보 검출 △외부·내부 생성형 AI 연동 중계 △문맥 기반 개인정보 필터링 등을 통해 안전하게 생성형 AI를 사용할 수 있도록 지원한다. 현재는 플랫폼 방식과 모듈 연동 방식 등 기업의 보안 환경에 맞는 다양한 방식을 제공한다.

플랫폼 방식일 경우 ChatGPT, Claude, Gemini, CLOVA X 등 상용 생성형 AI뿐만 아니라, 기업에서 자체 개발한 Private LLM과도 연동을 중계해 관리할 수 있다. 또한 MS Copilot 보안도 지원한다.

게다가 기존의 정규표현식 검출 방식에 더해 sLLM(Smaller Large Language Model, 경량화된 언어모델)을 연동해 문맥을 이해할 수 있도록 했다. 이를 통해 이름, 주소 등 기존 방식으로는 검출이 어려웠던 민감 정보도 식별할 수 있다. 토큰 추적과 비용 관리 등을 통해 정해진 예산 내 효율적으로 사용할 수도 있다.

인공지능으로 개인정보 보호부터 비대면 본인 확인까지
컴트루테크놀로지는 인공지능·정보 보안 전문 업체로 생성형 AI 데이터 보안뿐만 아니라 AI 기반 개인정보보호 솔루션과 비대면 본인 확인 솔루션을 제공하고 있다. PC, 웹 서버, 파일 서버부터 전자결재, 온-나라, DMZ, Cloud 등 업무에 활용되는 모든 시스템 내 산재한 개인정보를 검출할 수 있다. 자체 개발한 신경망을 탑재해 첨부파일 속 이미지, 문서 내 OLE 객체도 가능하다.

또한, 금융권 도입 권고 기술인 비대면 본인 확인 솔루션 eKYC도 제공하고 있다. 실시간 얼굴 촬영과 안면 유사도 분석으로 신분증 도용 및 딥페이크를 통한 금융 사기를 방지할 수 있다.

컴트루테크놀로지의 담당자는 “해당 솔루션들은 금융권과 공기업 등 다양한 분야에 성공적으로 구축하고 있다”며, “그동안의 경험과 노하우로 생성형 AI 데이터 보안에도 힘쓰겠다”고 밝혔다.

한편, ‘투명한 AI 안전한 개인정보’라는 주제로 5월 27일부터 28일까지 서울 삼성동 코엑스 그랜드볼룸에서 국내 최대 규모의 개인정보보호 콘퍼런스인 ‘PIS FAIR 2025(제14회 개인정보보호 페어 & CPO워크숍)’이 개최된다. 이번 행사는 개인정보보호위원회와 PIS FAIR 조직위원회가 주최하고, 한국인터넷진흥원과 한국CISO협의회, 더비엔이 주관한다.

PIS FAIR 2025는 개인정보보호 분야 유관기관과 개인정보보호 솔루션 기업이 함께하는 행사로, 매해 4000여명이 참가하는 국내 최대 규모의 개인정보보호 축제의 한마당이다. 특히 공공기관 및 기업의 개인정보보호최고책임자(CPO)를 비롯해 개인정보보호 담당자, 개인정보 처리자는 PIS FAIR 2025 홈페이지에서 사전등록할 경우 무료 참관이 가능하다.
[원병철 기자(boanone@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>