"AI 추론 최적"…레드햇, 메타와 오픈소스 AI 협력

레드햇이 엔터프라이즈용 생성형 인공지능(AI) 개방성과 확장성을 높이기 위해 메타와 손잡았다.

레드햇은 메타의 라마 스택과 고성능 추론 엔진 가상거대언어모델(vLLM) 중심으로 생성형 AI 통합 프레임워크를 구현하기 위한 공동 프로젝트를 메타와 시작했다고 10일 밝혔다. 이를 통해 다양한 하드웨어와 클라우드 환경 전반에서 일관된 AI 애플리케이션 구축 기반이 마련될 전망이다.

이번 협력은 AI 가속기와 클라우드, 하드웨어 환경에 최적화된 추론 기능을 구현하는 데 초점 맞췄다. 특히 기업용 생성형 AI의 상용화를 위해서는 표준화된 API 계층과 추론 기술의 상호운용성이 중요하다는 점에서, 이번 협력이 실질적인 기술적 해법으로 주목받고 있다.

레드햇 공식 로고. (사진=레드햇)

레드햇은 라마 스택과 AI 플랫폼을 통합해 에이전틱 AI 프레임워크 전반의 지원 범위를 넓힐 방침이다. 이를 통해 개발자들은 다양한 생성형 AI 애플리케이션을 보다 유연하게 설계하고 배포할 수 있는 환경을 확보할 계획이다.