온프레미스 및 퍼블릭 클라우드 제공업체 등 환경에 맞춰 왓슨x.ai 내 모델 배포 가능

[보안뉴스 김영명 기자] IBM은 기업들이 고품질, 고성능의 다양한 파운데이션 모델을 폭넓게 이용하고, 자사의 필요에 따라 맞춤형으로 배포하도록 하기 위한 노력의 일환으로 왓슨x.ai(watsonx.ai)에서 ‘미스트랄 라지(Mistral Large)’ 모델을 제공한다고 발표했다.


▲IBM은 고성능 파운데이션 모델 확산 노력의 일환으로 왓슨x.ai에서 ‘미스트랄 라지’ 모델을 제공한다[이미지=IBM]

인공지능(AI) 개발자를 위한 IBM의 기업용 AI 스튜디오인 왓슨x.ai는 IBM의 그래니트(Granite) 모델 외에도 다양한 오픈소스 및 상용 모델 선택이 가능하며, 이를 용도에 맞춰 변형하거나 비즈니스 솔루션 및 애플리케이션과 통합해 사용할 수 있다.

IBM은 이미 왓슨x.ai 내에서 기업 환경에 적용할 수 있는 소규모 모델인 믹스트랄-8x7B(Mixtral-8x7B)를 제공하고 있다. 이 모델은 IBM이 최적화한 모델로, 주어진 시간에 처리할 수 있는 데이터의 양이 기존 모델보다 50% 증가했다. 이번에 새롭게 추가된 미스트랄 라지는 서비스형 소프트웨어(SaaS)로 먼저 제공된다. 이제 왓슨x 고객은 추론과 다국어 기능이 필요한 복잡한 전사적 작업을 처리하도록 최적화된 미스트랄 AI의 가장 강력한 모델을 활용할 수 있다. 검색증강생성(RAG) 전문화를 통해 더 장시간의 채팅 상호작용과 대용량 문서 처리가 가능하며, 사용자 정의 함수나 API와 같은 외부 도구에 연결할 수 있고, 뛰어난 코딩 성능으로 특정 용도에 맞는 애플리케이션을 쉽게 구축이 가능하다. 책임감 있는 AI 구축을 위해 안전장치로 사용할 수 있는 ‘가드레일(guardrail)’ 기능도 내장돼 있다.

기업들은 이제 왓슨x 플랫폼에서 미스트랄 라지를 통해 데이터 스토어, 프롬프트 랩, 모델 튜닝, 프로세스 모니터링 및 거버넌스 기능을 포함한 추가적인 엔터프라이즈 지원 제품을 활용할 수 있다. 왓슨x 고객은 특정 플랫폼에 종속되지 않고 온프레미스(사내 서버)나 퍼블릭 클라우드 제공업체 등 원하는 환경에서 왓슨x.ai 내 모델을 배포할 수 있다. 빠르게 변화하는 AI 분야에서 기업이 민첩하게 적응하고 인프라 및 개발에 대한 매몰 투자를 피하려면 유연성이 핵심이기 때문이다.

IBM은 왓슨 플랫폼에 미스트랄 AI의 상용 모델을 제공해 개방형 멀티모델 전략을 더욱 확장하고 기업이 혁신, 변화, 확장할 수 있도록 지원한다는 계획이다. 또한 책임감 있게 기업 혁신에 이바지하고자 하는 IBM의 의지를 바탕으로, IBM은 한도형 지적재산권 보상 제도를 통해 미스트랄 라지를 활용하는 고객을 보호한다고 밝혔다. 이는 IBM이 자사의 AI 모델인 IBM 그래니트 모델에 대한 고객보증제도를 적용한 이래 제3자 파운데이션 모델까지 확대한 첫 번째 사례다.

한편 IBM은 보안뉴스·시큐리티월드가 선정한 2023 Global Security TOP100 기업이다. Global Security TOP 100은 물리보안 분야와 사이버보안 분야를 모두 포함해 2023년 한 해 동안 국내외에서 매출, 성장 속도, 기술력, 혁신성, 지속가능성 등에서 우수한 평가를 받아 선정됐다.
[김영명 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>