SKT, 자체 개발 AI 모델 'A.X 3.1 라이트' 공개

SK텔레콤이 11일 오픈소스 커뮤니티 허깅페이스에 독자 구축 LLM인 에이닷 엑스(A.X) 3.1 라이트’를 공개했다.

A.X 3.1 라이트는 기존 에이닷 전화 통화 요약에 적용했던 A.X 3.0 라이트 모델의 업그레이드 버전으로, SK텔레콤이 프롬 스크래치 방식으로 모델 구축과 데이터 학습 등 전 단계를 직접 진행했고 70억개(7B)의 매개변수를 기반으로 하는 경량 모델이다.

경량화된 성능과 높은 효율성의 장점에 따라 정보 처리 용량, 소비 전력 등 다양한 사양의 모바일 기기에서 최적의 품질을 구현할 수 있도록 해 기업들의 원활한 서비스 제공에 기여할 전망이다.

A.X 3.1 라이트는 같은 규모의 매개변수를 바탕으로 하는 자매 LLM인 A.X 4.0 라이트와 동등한 수준의 우수한 한국어 처리능력을 갖췄다.

대표적인 한국어 능력 평가 벤치마크인 KMMLU에서 A.X 3.1 라이트(61.70)는 A.X 4.0 라이트(64.15)대비 96% 수준의 성능을 보였다. 또 한국어와 한국 문화 벤치마크인 CLIcK에서는 A.X 4.0 라이트(69.97) 대비 102% 수준의 성능을 기록했다.

SK텔레콤은 A.X 3.1 라이트 후속인 매개변수 340억개(34B)의 프롬 스크래치 모델인 A.X 3.1을 이달 중 추가로 선보일 예정이다.

SK텔레콤은 2018년부터 AI 언어 모델을 개발해 2019년 KoBERT를 고객센터 챗봇 등에 활용하기 시작했고, 2020년 국내 최초로 GPT2를 한국어로 개발해 오픈소스로 공개했다. 2022년 선보인 에이닷(A.) 서비스에는 자체 개발한 A.X 모델을 적용해 자유 주제로 대화가 가능하게 했으며, 2024년 A.X 3.0 모델을 에이닷 전화 통화요약 기능에 적용하기도 했다.

A.X 3 계열의 자체 개발 모델과 함께 최적화된 성능과 효율이 필요한 영역에는 대규모 학습(CPT)에 기반한 A.X 4 계열 모델을 활용할 예정이다.

이와 같이 투 트랙 전략을 통해 국내 기업들이 각자의 환경에서 AI 기술을 보다 쉽게 활용할 수 있는 다양한 선택지를 제공한다는 방침이다. 또한 기존 모델의 성능을 대폭 혁신할 수 있도록 GPU 자원을 확충하고 개발 역량을 높여 나갈 계획이다.