"AI칩 경쟁력은 소프트웨어"...업계, SDK 개발 지원 총력전

엔비디아는 어떻게 AI 시장 리더로 성장할 수 있었을까. 국내 AI반도체 업계 관계자들은 이 같은 질문에 엔비디아 소프트웨어(SW) 플랫폼 ‘쿠다(CUDA)’를 답변으로 내놓는다. 칩 성능만 보면 AMD와 엔비디아가 큰 차이 없지만 소프트웨어 경쟁에서 엔비디아가 압승했다는 주장이다.

한 AI반도체 업체 관계자는 “사실 칩 성능만 보면 AMD가 엔비디아에 크게 밀리지 않는다”며 “AMD의 소프트웨어가 사용하기 힘든 반면, 쿠다는 개발자들에게 이미 깊숙히 파고들었다”고 설명했다.

퓨리오사AI의 2세대 AI 반도체 레니게이드(사진=퓨리오사AI)

AI 반도체, SDK 개발에 총력

4일 업계에 따르면 국내 AI반도체 업체들은 SDK(소프트웨어개발키트) 개발에 내부 자원을 집중하고 있다.

SDK는 소프트웨어를 개발할 수 있도록 도와주는 일종의 개발 도구 모음이다. AI 연산, 이미지 처리, 센서 제어 등 반도체 기능을 활용하는 애플리케이션을 구현한다. 반도체 개발 및 양산이 성능을 구현하는 과정이라면, SDK 개발은 사용자들이 실제로 칩을 이용할 수 있도록 환경을 구축하는 최적화 과정인 셈이다.

글로벌 엣지 AI반도체 1위 헤일로 김귀영 한국 지사장은 "꾸준한 SDK 지원 여부가 회사 경쟁력과 직결된다"고 말했다.

특히 SDK 개발에 적극적인 곳은 퓨리오사AI다. 회사는 이날 SDK 3.0를 고객사에 공급했다. SDK 2.0을 공급한 이후 4개월만이다. 이번 업데이트로 NPU(신경망처리장치) 카드에 걸친 텐서 병렬 처리가 공식적으로 지원된다. LLM(대규모 언어모델)의 효율적인 확장이 가능해지고 처리량이 크게 올랐다. 구체적으로 오픈소스 AI모델 라마 3.1 기준으로 처리량이 최대 3배 증가하고, 토큰 지연 시간은 최대 55% 감소하는 등 성능이 향상됐다.

퓨리오사AI 관계자는 “현재 회사 인력은 180명인데 이 중 3분의 2가 소프트웨어 개발 인력”이라며 “지난해 8월 레니게이드를 출시한 이후, 소프트웨어 개발을 거듭해 이제 고객이 서비스에 칩을 도입하는 시기까지 왔다”고 말했다.

그러면서 “최근 LG AI연구원에서 공개한 ‘엑사원’이 대표적인 예시”라고 덧붙였다.

리벨리온 아톰 맥스

리벨리온도 SDK 개발 및 지원에 힘을 쏟는 중이다. 라마, 챗GPT 등 다양한 AI 모델들이 늘어남에 따라 고객 니즈에 맞는 서비스를 제공하기 위한 전략이다.

리벨리온 관계자는 “회사 칩은 200개 이상의 모델을 지원하고 있다"며 “리벨리온 SDK는 복잡한 설정 없이도 개발자가 익숙한 환경에서 AI 모델을 쉽게 개발하고, 실제 서비스에 빠르게 적용할 수 있도록 제작됐다”고 소개했다.

향후 SDK 지원을 위해 소프트웨어 개발 인력도 꾸준히 채용 중이다. 리벨리온은 현재 200여명으로 구성돼 있으며, 이 중 상당수가 소프트웨어 개발 인력인 것으로 전해진다.

엣지 AI반도체 업계도 SDK 개발에 한창이다. 딥엑스는 현재 100여명 정도인 인력을 빠른 시일 내에 300명까지 늘릴 계획으로, 신규 채용 인력 중 대부분을 소프트웨어 개발 인력으로 채운다. 모빌린트의 경우 창업 초기부터 소프트웨어 개발 인력을 중심으로 채용한 바 있다. 현재 개발 인력 4분의 3이 SDK 지원 등 소프트웨어를 개발하고 있다.

신동주 모빌린트 대표는 “SDK가 반도체 비즈니스에서 워낙 중요한 영역이라 모빌린트는 처음 시작할 때부터 소프트웨어 개발 인력이 다른 부분보다 더 많았다”고 밝혔다.

지난 7월 여수에서 개최된 반도체 공학회 하계학술대회. 학생과 교수들이 섞여 기조 연설을 듣고 있다.(사진=전화평 기자)

개발 인재 구인 난항...SDK 꾸준히 지원 가능할까

문제는 인력 풀이 많지 않다는 점이다. 현재 AI반도체 업체에서 원하는 인재는 ▲소프트웨어 역량 ▲하드웨어(HW) 역량 ▲AI에 대한 높은 이해라는 삼박자를 갖추고 있어야 한다. 이 같은 역량을 기르기 위해서는 신입 기준 최소 석사급은 돼야 한다는 게 업계 중론이다.

게다가 글로벌 반도체 업체들과 인재를 놓고 경쟁한다는 점도 국내 업체들의 애로 사항이다. 엔비디아, AMD, 인텔 등 반도체 업체 뿐만 아니라 자체적으로 칩 개발을 시작한 빅테크 기업 메타, 구글 등도 인재 전쟁의 경쟁 상대다.