프렌들리AI, GPU 없는 LLM 서비스 연다…'엑사원 4.0' 지원해 글로벌 공략

프렌들리AI가 LG의 최첨단 언어모델을 자체 추론 플랫폼에 연동해 누구나 응용 프로그램 인터페이스(API)로 사용할 수 있는 구조를 열었다. 고성능 인공지능(AI)을 도입하려는 기업들이 별도 인프라 없이 빠르고 저렴하게 상용화할 수 있도록 설계한 점이 핵심이다.

프렌들리AI는 회사의 서버리스 AI 추론 플랫폼에서 LG AI연구원의 최신 언어모델 '엑사원 4.0'을 최초로 서비스 연동 가능하도록 했다고 15일 밝혔다. '엑사원 4.0'은 LG그룹 산하 AI 전문 연구기관인 LG AI연구원이 개발한 다국어 초거대 AI 모델로, 자연어 처리와 추론 능력을 결합한 최신 거대언어모델(LLM)이다.

'엑사원 4.0'은 이미지와 텍스트를 동시에 처리하는 멀티모달 모델로, LG AI연구원이 지난 2021년부터 개발해온 '엑사원' 시리즈의 최신 버전이다. 기존 모델 대비 전문성과 정밀도가 크게 향상됐으며 기업 실무 환경에서의 대규모 활용을 고려해 설계됐다. 프렌들리AI는 기업들이 자체 그래픽처리장치(GPU) 서버를 따로 구축하지 않고도 엑사원을 활용할 수 있도록 API 접근방식을 채택했다. 자동 확장 기능도 탑재했다.

(사진=프렌들리AI)

프렌들리AI가 강조하는 장점은 ▲서버리스 기반 추론 인프라 ▲트래픽 자동 확장 ▲낮은 단가다. '챗GPT' 대비 약 10분의 1 수준의 운영비로 초거대 AI를 쓸 수 있다는 점에서 비용 부담을 우려하는 중견·대기업 수요를 흡수하겠다는 전략이 담겼다.

더불어 이 회사는 허깅페이스와의 공식 모델 배포 파트너십도 보유하고 있어 40만 개 이상의 모델 커버리지를 지원하고 있다.