네오클라우드(Neocloud)는 인공지능(AI) 개발과 운영에 필요한 그래픽처리장치(GPU) 등 고성능 컴퓨팅 자원을 전문적으로 제공하는 클라우드 사업자 또는 서비스를 뜻한다. 아마존웹서비스(AWS), 마이크로소프트(MS), 구글클라우드 등 기존 하이퍼스케일러가 범용 클라우드 서비스를 제공하는 것과 달리 AI 학습과 추론에 특화된 인프라를 제공하는 것이 특징이다.
생성형 AI 확산으로 대규모 GPU 수요가 급증하면서 네오클라우드가 새로운 클라우드 사업군으로 부상했다. AI 기업은 거대언어모델(LLM)을 학습하거나 서비스하기 위해 수천~수만개의 GPU를 동시에 사용해야 한다. 그러나 고성능 GPU를 직접 확보해 데이터센터를 구축하려면 막대한 비용과 시간이 필요하다. 네오클라우드는 GPU를 대규모로 확보해 필요한 기업에 빌려주고 AI 연산에 최적화된 네트워크와 소프트웨어 환경을 함께 제공한다.
대표적인 네오클라우드 기업으로는 코어위브(CoreWeave), 람다(Lambda), 네비우스(Nebius) 등이 꼽힌다. 특히 코어위브는 암호화폐 채굴용 GPU 사업에서 출발해 AI 인프라 기업으로 전환한 사례로 지난해 상장 이후 빠르게 몸집을 키웠다. AI 컴퓨팅 수요가 폭증하면서 글로벌 빅테크와 AI 기업을 고객으로 확보하며 빠르게 성장했다.
네오클라우드는 기존 클라우드 업체와 경쟁하면서도 협력하는 관계다. 하이퍼스케일러가 자체 AI 인프라를 확대하고 있지만 GPU 공급과 데이터센터 용량이 수요를 따라가지 못하면서 네오클라우드가 이를 보완하는 역할을 한다. AI 기업 입장에서는 필요한 GPU를 비교적 빠르게 확보하고 용도에 따라 인프라를 선택할 수 있다는 장점이 있다.
최근에는 AI 산업의 중심이 모델 개발을 위한 '학습'에서 실제 서비스를 구동하는 '추론'으로 확대되면서 네오클라우드의 역할도 커지고 있다. AI 경쟁이 모델 성능뿐 아니라 컴퓨팅 자원을 얼마나 안정적이고 효율적으로 확보하느냐의 경쟁으로 확장되면서 네오클라우드는 AI 생태계의 새로운 인프라 사업자로 주목받고 있다.
최다현 기자 da2109@etnews.com
