AMD, 차세대 AI 가속 GPU '인스팅트 MI350' 공개

AMD가 12일(이하 현지시간) 미국 캘리포니아 주 산타클라라에서 진행한 '어드밴싱 AI 2025' 행사에서 차세대 AI GPU 가속기 '인스팅트 MI350' 시리즈 2종과 향후 AI GPU 가속기 로드맵을 공개했다.

AMD는 오픈 소프트웨어·하드웨어, 고객 중심 전략, 성능 및 TCO 리더십을 핵심 가치로 내세우며, 마이크로소프트, 메타 등 7대 IT 기업이 인스팅트 GPU를 대규모로 도입하고 있다고 밝혔다.

AMD가 11일(미국 현지시간) 서버용 AI GPU 가속기 신제품 '인스팅트 MI350' 2종을 공개했다. (자료=AMD)

"MI350, 전 세대 대비 AI 연산 성능 4배 향상"

지난 해 컴퓨텍스 기조연설에서 리사 수 AMD CEO는 "생성 AI 성능이 매년 향상되고 있어 서버용 GPU 신제품을 매년 출시해 고객사가 신기술을 보다 빨리 도입·적용하도록 할 것"이라고 설명했다.

2023-2026년 AMD 서버용 AI GPU 가속기 로드맵. (자료=AMD)

AMD가 이번에 공개한 인스팅트 MI350 2종은 대만 TSMC 3나노급 공정에서 생산되며 1천850억 개의 트랜지스터를 집적했다. HBM3E 메모리는 288GB를 탑재해 최대 5천200억 개 매개변수(패러미터)로 구성된 AI 모델을 구동할 수 있다.

인스팅트 MI350 2종 제원 비교. (자료=AMD)

연산 성능은 최상위 모델인 MI355X 기준 FP64(부동소수점 64비트) 79테라플롭스, FP16 5페타플롭스이다. 전 세대 대비 AI 연산 성능은 4배, 추론 성능은 4.2배 향상됐다.

인스팅트 MI300X과 MI355X 추론 성능 비교. (자료=AMD)

AMD는 "MI355X는 엔비디아 GB200 대비 메모리 용량은 1.6배, FP64 최대 연산 성능은 2배 수준 성능을 낸다"고 설명했다.

MI355X 최대 128개로 단일 랙 구성 가능... 3분기부터 대량 공급

AMD는 고객사의 요구사항에 따라 두 제품에 서로 다른 냉각 방식을 적용할 예정이다. 소비 전력이 GPU당 1천W(와트)인 MI350X는 냉각팬을 이용한 공랭식과 수랭식 냉각방식을 모두 활용 가능하다. 소비 전력이 최대 1천400W인 MI355X는 수랭식만 지원한다.

MI350은 AMD 서버용 5세대 에픽(EPYC) 프로세서와 차세대 개방형 이더넷 표준인 '울트라 이더넷 컨소시엄(UEC)' 규격 기반 네트워크 카드를 이용해 랙으로 구성 가능하다.

인스팅트 MI350은 수랭식과 공랭식을 모두 활용할 수 있다. (자료=AMD)

MI355X 128개로 랙을 구성하면 HBM3E 메모리는 최대 36TB까지 늘어나며 FP4(부동소수점 4비트) 연산 성능은 2.6 엑사플롭스까지 향상된다.

MI350 시리즈 2종은 이달 초부터 공급이 시작됐고 올 3분기부터 주요 서버 제조사와 클라우드서비스공급자(CSP) 인스턴스를 통해 배포될 예정이다.

AI 프레임워크 ROCm 7, 추론 성능 3배 이상 향상

AMD는 이날 오픈소스 기반 AI 프레임워크인 ROCm 최신 버전인 'ROCm 7'도 함께 공개했다. 최신 알고리듬과 AI 모델을 적용하는 한편 MI350 지원 추가, 클러스터 관리 기능과 엔터프라이즈에서 요구하는 각종 관리 기능을 추가했다.

AMD 오픈소스 AI 프레임워크 ROCm 7. (자료=AMD)

ROCm 7은 전 세대 대비 추론 성능을 크게 강화했다. 메타 라마 3.1 700B 모델 연산 성능은 3.8배, 딥시크 R1은 3.4배 향상됐고 허깅페이스의 모델 180만 개도 지원을 추가했다.

ROCm 7은 이전 버전 대비 추론 성능을 3배 이상 향상시켰다. (자료=AMD)

AMD는 GPU 구매 없이 구독 형태로 쓸 수 있는 'AMD 개발자 클라우드'를 공개하고 개발자와 오픈소스 기여자에게도 일정 시간을 무료로 쓸 수 있는 크레딧을 제공할 예정이다.

"내년 HBM4 적용 인스팅트 MI400 GPU 출시"

AMD는 내년에 출시할 제품인 인스팅트 MI400과 이를 기반으로 한 헬리오스(Helios) 랙 솔루션 제원도 일부 공개했다.

관련기사