S2W, 기업 맞춤 생성형 AI 플랫폼 ‘SAIP’에 데이터 운용 안전성 강화하는 ‘시큐리티 가드레일’ 적용
시큐리티 가드레일, 민감 질문 방어 및 악의적 프롬프트 공격 대응 등 지원하는 역할
S2W, AI 안전성 강화 위한 기술 개발 및 고도화 지속해 나갈 것

[보안뉴스 박은주 기자] AI 및 보안 전문 데이터 인텔리전스 기업 에스투더블유(이하 S2W, 대표 서상덕)가 ‘SAIP(S2W AI Platform)’에 차별화된 ‘시큐리티 가드레일(Security Guardrail)’을 구현, AI 안전성을 강화하며 더욱 안정적인 데이터 운용 환경을 제공한다고 19일 밝혔다.


[이미지=S2W]

SAIP는 S2W가 보유한 첨단 인공지능 기술과 데이터 처리 노하우를 바탕으로, 고객 보안 요구 수준에 맞춰 제로 트러스트(Zero Trust) 기반 설계로 구현한 기업 맞춤 생성형 AI 플랫폼이다. SAIP는 해당 기업의 도메인에 특화된 대규모 언어 모델(LLM) 및 지식그래프 기술을 접목하고, 각 산업의 특성과 기업 사용 목적을 고려해 사용자 질문에 가장 근접한 사실 기반 답변과 데이터를 제공한다.

이처럼 LLM은 조직 내 데이터 운용의 효율성과 생산성을 획기적으로 향상시키고 있지만, 동시에 데이터 유출과 악의적 조작 등 다양한 문제도 함께 대두되고 있는 것이 사실이다. 이에 생성형 AI 도입으로 인해 발생하는 보안상 문제점을 효과적으로 방어할 수 있는 기술에 대한 수요가 빠르게 증가하고 있다. S2W는 SAIP에 시큐리티 가드레일(Security Guardrail)을 적용해 기업 내부 데이터 보호 및 보안 위협 대응에 있어 차별화된 기능을 보여주고 있다.

시큐리티 가드레일은 LLM의 개발 및 배포, 운영 과정에서 보안성과 신뢰성을 확보하기 위한 일련의 방어 체계다. S2W는 이를 플랫폼 안에 구현해 AI 모델 학습에 사용되는 데이터 세트를 검토하고 민감 정보를 제거하는 검증 및 정제의 과정을 거쳐 정보 유출 위험을 최소화하고 데이터 프라이버시를 강화하고 있다.

또한, LLM 취약점을 공략해 AI 모델이 주어진 프롬프트에 대해 잘못된 방식으로 반응하도록 유도하는 ‘프롬프트 인젝션(Prompt Injection)’을 방지하는 역할도 수행한다. 모델의 응답을 사전 정의된 규칙이나 필터링 시스템을 통해 검증함으로써 범죄와 관련되거나 비윤리적·정치편향적인 내용이 답변에 포함되지 않도록 하는 것이다. 아울러 구축 후에도 내부의 취약점 분석 전문 조직에 의해 작성된 분석 보고서를 정기적으로 제공함으로써 플랫폼의 안전성을 유지하고 강화할 수 있도록 지원하고 있다.

이처럼 S2W는 기존의 범용 LLM이 지닌 고질적인 한계점을 보완하고 플랫폼의 안정성을 제고하며 꾸준히 SAIP의 경쟁력을 강화해왔다. 그 결과 다양한 산업군의 대기업에 공급되고 있으며 안정성 확보를 중시하는 주요 기관과도 협업하는 등 공공과 민간 부문을 아우르는 다양한 협력 논의를 이어가고 있다.

S2W 서상덕 대표는 “S2W는 최근 전 세계적인 화두로 떠오르고 있는 AI 안전성과 신뢰성에 관한 문제를 오랫동안 주목해왔다”며 “시큐리티 가드레일을 포함해 조직 내부 데이터의 안정적인 운용을 가능케 하는 다양한 기술을 지속해서 개발하고 고도화하며, 고객이 데이터와 AI의 활용 가치 및 유익성을 극대화할 수 있는 안전한 환경을 구축해 나갈 것”이라고 밝혔다.

한편, S2W는 다수의 국내외 특허와 유수의 글로벌 학회 채택 논문 등으로 두루 입증된 우수한 전처리·언어모델·지식그래프 기술력을 바탕으로 SAIP에 대한 기술력을 꾸준히 높여왔다. 아울러, 대규모 비정형 데이터 처리 과정에서 고도화해온 도메인 특화 AI 기술을 금융, 제조, 유통 등 다양한 산업군에 확대 적용해 나가고 있다.
[박은주 기자(boan5@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>