한국어 특화 거대 언어 모델(LLM) 결합해 API 호출만으로 유연한 파이프라인 구성
[보안뉴스 조재호 기자] KT클라우드는 엔드투엔드 AI 플랫폼 ‘AI 파운드리’(AI Foundry)의 공공 클라우드 상품을 새롭게 출시하고, 공공 인공지능 전환(AX) 시장 공략을 본격화한다고 21일 밝혔다.

이번 시장 진출의 핵심 경쟁력은 인증 확보다. AI 파운드리의 대표 상품인 검색 증강 생성 솔루션 ‘RAG Suite’와 데이터베이스 ‘VectorDB’가 클라우드 보안인증(CSAP) 중등급을 획득해 고객이 보안 우려 없이 안전한 환경에서 혁신 기술을 활용할 수 있는 기반이 완성됐다. 나아가 4월 중 한국지능정보사회진흥원(NIA)의 디지털서비스 전문계약제도에 이 두 상품을 등록해 공공기관의 복잡한 계약 절차를 간소화하고 도입 기간을 획기적으로 단축할 계획이다.
도입 기관은 RAG Suite를 통해 PDF와 워드 등 내부 비정형 데이터를 기계 학습이 가능한 형태로 변환할 수 있다. KT의 자체 모델인 ‘믿음(Mi:dm) 2.0’과 업스테이지의 ‘솔라 프로 2’. ‘솔라 미니’를 포함해 한국어 특화 LLM을 유연하게 선택할 수 있으며, 별도의 인프라 구축 없이 API 호출만으로 파이프라인을 구성할 수 있다. 이를 통해 정책 정보 조회와 민원 상담 챗봇 등 다양한 대국민 서비스를 신속하게 구현할 수 있다.
인증 취득과 함께 상품의 기술적 고도화도 이어진다. 이달 23 보안성과 답변 정확도를 강화한 ‘RAG Suite 2.0’이 출시된다. 새 버전은 개인식별정보(PII)를 안전하게 관리하는 탐지·마스킹 기능과 부적절한 답변을 걸러내는 AI 응답 가드레일, 복잡한 표와 서식을 정밀하게 추출하는 한글 문서 파서(Parser), 검색 결과의 우선순위를 재정렬하는 리랭크 기술이 추가로 탑재된다. 이와 함께 전문 조직을 가동해 고객의 성숙도를 진단하고 맞춤형 아키텍처를 제시하는 전략 컨설팅도 병행 지원한다.
강봉균 KT클라우드 대표는 “이번 AI 파운드리 공공존 출시와 CSAP 인증은 공공기관이 보안 우려 없이 생성형 AI를 실무에 적용할 수 있는 중요한 전환점이 될 것”이라며 “앞으로 공공 업무 환경에 최적화된 플랫폼을 지속 고도화해 국내 AX 혁신을 이끌어가겠다”고 말했다.
[조재호 기자(zephyr@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>








.gif)
.gif)




