오케스트로 "AI 도입 최대 장벽은 GPU 비용"

인공지능(AI) 수요가 빠르게 증가하는 가운데 기업들이 도입을 주저하는 가장 큰 이유로 그래픽처리장치(GPU) 등 인프라 구축 비용이 꼽혔다.

17일 오케스트로는 이같은 내용을 담은 '클라우드 환경에서의 AI 활용방안' 설문 결과를 발표했다. 지난달 진행된 이번 설문에는 클라우드 서비스를 사용하는 기업·공공기관 종사자 6천615명이 참여했다.

설문 결과에 따르면 AI 도입 시 가장 큰 제약 요인은 GPU 등 기술 도입 비용(23.5%)이었다. 이어 전문 인력 부족(22.6%), 데이터 보안 우려(14.4%)가 뒤를 이었다.

오케스트로 '클라우드 환경에서의 AI 활용방안' 설문 결과 (사진=오케스트로)

AI 도입은 초기 구축비도 크지만 사용량 기반의 과금 구조로 인해 장기적인 총소유비용(TCO) 부담이 크다. 여기에 AI 학습과 운영에 활용되는 핵심 데이터가 외부 클라우드에 저장되면서 보안 우려도 높아지고 있다.

비용과 보안이라는 이중 부담 속에서 퍼블릭 클라우드 기반 AI 환경의 한계가 분명해지면서 내부 데이터를 활용한 프라이빗 AI 환경이 대세로 자리잡고 있다는 게 오케스트로 측 설명이다.

AI에 대한 기대 역시 현실적인 해법에 집중됐다. 비용 최적화와 실시간 보안 대응이 각각 20.7%로 가장 높았고 장애 원인 분석(17.1%)과 성능 병목 해소’(15.9%)가 뒤를 이었다. 이러한 기대는 기업이 실제 겪고 있는 클라우드 운영 과제와도 맞닿아 있는 것으로 나타났다.

응답 기업들은 ▲비용 최적화(22.7%) ▲보안 관리(19.1%) ▲장애 대응(15.2%)을 주요 과제로 꼽았으며 가장 많은 시간을 투입하는 작업 역시 ▲비용 분석 및 최적화(22.7%) ▲모니터링 및 장애 대응(19.5%) 순으로 나타났다.

운영상의 과제는 기업 규모에 따라 뚜렷한 차이를 보였다. 대기업은 보안 관리와 비용 분석에 중견기업은 인프라 구성과 모니터링에 중소기업은 비용 최적화에 집중하는 것으로 조사됐다. GPU 투자 여력에서도 격차가 컸다. 중견기업은 월 500만~2천만원대(33.3%)에 몰렸고 대기업은 월 1억원 이상(34.5%)에 집중됐다.

클라우드 인프라 구조도 점점 더 복잡해지고 있는 것으로 확인됐다. 이번 설문에서 전체 응답 기업의 49.1%가 멀티 또는 하이브리드 클라우드를 사용 중이라고 답했다. 이들 중 60.2%는 3개 이상의 클라우드를 동시에 운영 중인 것으로 조사됐다.

이처럼 점점 복잡해진 환경 속에서 오케스트로는 퍼블릭과 프라이빗은 물론 멀티‧하이브리드까지 아우르는 통합 관리 솔루션 '오케스트로 CMP'를 앞세워 사업 확장에 나서고 있다. GPU 인프라 비용과 AI 도입 장벽을 낮추기 위한 '클라우드 포 AI' 전략도 추진 중이다.

기업들이 AI 도입에서 가장 큰 부담으로 느끼는 GPU 인프라 문제에 대해 오케스트로는 서버 가상화 솔루션 '콘트라베이스'를 해법으로 제시하고 있다. 고성능 연산이 요구되는 AI 환경에서는 GPU 자원을 효율적이고 안정적으로 활용하는 것이 핵심이다.