시장조사업체 가트너는 올해 전 세계 AI 최적화 IaaS 지출이 전년보다 96.4% 증가한 422억7600만달러(약 59조원)에 이를 것으로 전망했다. 지난해 215억2900만달러였던 시장 규모는 2027년 661억4300만달러(약 93조원)까지 확대될 것으로 예상된다.
AI 최적화 IaaS는 대규모언어모델(LLM)의 학습과 추론 등 고성능 AI 연산에 특화된 클라우드 인프라를 뜻한다. LLM 학습을 위한 인프라 수요가 이어지는 가운데 기업들이 AI를 애플리케이션과 업무 프로세스에 본격적으로 도입하면서 시장 성장을 견인하고 있다는 분석이다.
하딥 싱 가트너 수석 애널리스트는 “LLM 학습을 지원하기 위한 인프라 수요가 지속되고 기업 애플리케이션과 업무 프로세스 전반에서 AI가 빠르게 상용화되면서 시장 성장을 이끌고 있다”고 설명했다.
특히 올해는 AI 추론 인프라 지출이 학습 인프라 지출을 넘어설 전망이다. 가트너는 올해 전 세계 추론 부문 지출이 233억달러(약 33조원)를 기록해 학습 관련 지출인 190억달러(약 27조원)를 웃돌 것으로 내다봤다.
전체 AI 최적화 IaaS 지출에서 추론이 차지하는 비중도 올해 55%에서 2027년 59%로 확대될 것으로 예상된다. AI 모델을 개발하고 학습하는 단계보다 이미 구축된 모델을 실제 서비스에서 지속적으로 실행하는 데 더 많은 인프라 비용이 투입되는 구조로 시장이 재편되는 것이다.
이 같은 변화에는 에이전틱 AI 확산이 영향을 미치고 있다. 사람의 개입을 최소화한 채 여러 단계의 업무를 자율적으로 수행하는 에이전틱 AI는 처리 과정에서 반복적인 추론을 요구하기 때문에 기존 생성형 AI보다 많은 컴퓨팅 자원을 소비한다.
기업들이 범용 모델 개발에서 대규모 상용 배포로 무게중심을 옮기고 있는 점도 추론 수요를 키우는 요인이다. 미세조정 모델과 도메인 특화 모델이 고객 응대와 기업 운영 시스템 등에 통합되면서 일회성 학습보다 지속적인 실시간 실행을 위한 클라우드 인프라의 중요성이 커지고 있다.
가트너는 추론 워크로드의 비중이 확대됨에 따라 기업의 클라우드 투자 우선순위도 달라질 것으로 전망했다. AI 최적화 IaaS가 단순한 모델 개발용 자원을 넘어 기업의 AI 전략과 서비스 운영을 뒷받침하는 핵심 기반으로 자리 잡을 것이라는 분석이다.
© 한경매거진&북, 무단전재 및 재배포 금지