72B 표준 모델과 7B 경량 모델 2종 공개
민감 데이터 기업도 활용할 수 있도록 내부망 설치 지원

[보안뉴스 조재호 기자] SK텔레콤은 한국어 특화 LLM 에이닷 엑스(A.X) 4.0을 오픈소스로 공개했다고 3일 밝혔다. 허깅페이스를 통해 공개된 A.X 4.0은 72B 표준 모델과 7B 경량 모델 2종이다.


▲A.X 4.0의 대규모 학습을 진행한 SKT의 슈퍼컴퓨터 ‘타이탄’ [자료: SKT]

A.X 4.0은 현존 LLM 중 최상급의 한국어 처리 효율성을 지녔다. 데이터 보안을 고려한 설계와 로컬 환경 운영 가능성 등이 강점이다. Qwen 2.5의 방대한 한국어 데이터를 추가로 확습해 국내 비즈니스 환경에서 최적화된 성능을 발휘한다는 것이 SKT의 설명이다.

SKT는 A.X 4.0의 토크나이저를 자체 설계해 한국어 처리 역량을 한층 더 끌어올렸다. 자체 테스트 결과 같은 한국어 문장을 입력했을 때 GPT-4o보다 약 33% 높은 토큰 효율을 기록했다. 토크나이저는 문장의 구조를 분석해 토큰으로 분할하는 작업 도구를 말한다.

또 한국어 능력 평가 벤치마크인 KMMLU과 한국어 및 한국 문화 벤치 마크인 CLIcK에서 각각 78.3점과 83.5점을 획득했다. 이는 GPT-4보다 우수한 성적이다.

SKT는 A.X 4.0을 기업 내부 서버에 직접 설치해 활용할 수 있는 온프레미스 방식으로도 제공한다. 도입 기업들이 데이터 보안에 대한 걱정을 덜 전망이다. A.X 4.0 표준모델은 72B, 경량 모델은 7B의 매개변수를 갖춰 이용자들의 목적에 맞춰 크기를 선택할 수 있다.

A.X 4.0은 개발 과정에서도 대규모 학습 전 과정을 외부와 연동없이 자체 데이터로 학습해 데이터의 주권도 확보했다. SKT는 이 모델을 지난 5월 에이닷 통화 요약에 적용했고, 추후 SK그룹 내 다양한 서비스에 적용할 계획이다.

SKT는 이번 지식형 모델 오픈소스 공개와 함께 추론형 모델 발표도 앞두고 있다. 회사는 이달 중 수학 문제 해결과 코드 개발 능력이 강화된 추론형 모델을 공개하고, 이미지와 텍스트를 동시에 이해하고 처리할 수 있는 수준까지 모델을 업데이트할 계획이다. 또 소버린 AI 관점으로 A.X 3.0에 적용된 프롬 스크래치 방식도 병행 개발을 진행하고 있다.

김지원 SKT AI 모델 랩장은 “SKT의 다양한 서비스를 고도화하고, 기업 시장에서 한국어 특화 LLM으로 국내 비즈니스 환경에 최적화된 모델이 될 수 있도록 지속적인 기술 개발을 추진할 계획”이라고 밝혔다.

[조재호 기자(sw@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>