오케스트로 클라우드가 국내 인공지능(AI) 반도체·모델·클라우드·서버·데이터센터 기업과 손잡고 국산 기술 기반의 AI 인프라 통합 상품 개발에 나선다. 해외 그래픽처리장치(GPU), 클라우드 기술 의존도를 낮추고 공공·민간이 자체적으로 AI를 구축·운영할 수 있는 소버린 AI 시장을 공략한다.
오케스트로 클라우드는 퓨리오사AI, 업스테이지, 에스피케이인크(SPK), 대원씨티에스와 'NPU 기반 소버린 AI 풀스택 상품 공동 개발'을 위한 업무협약(MOU)을 체결했다고 19일 밝혔다. 협약은 지난 16일 체결했다.
5개사는 AI 반도체부터 대규모언어모델(LLM), 클라우드 플랫폼, 서버와 데이터센터 인프라까지 각 사의 기술을 결합해 '소버린 AI 풀스택 어플라이언스'를 개발한다. AI 컴퓨팅 자원부터 모델 추론, 인프라 운영·관리까지 통합 제공하는 상품이다.
기존에는 AI 서비스를 구축하려면 반도체와 서버, 클라우드 플랫폼, AI 모델 등을 각각 도입한 뒤 연동해야 했다. 이번 협력은 이를 하나의 상품으로 묶어 구축 과정의 복잡성을 줄이고 도입 이후 운영까지 지원하는 데 초점을 맞췄다.
국산 기술을 중심으로 AI 인프라를 구성해 해외 기술 의존도를 낮추고 데이터와 AI 운영 환경에 대한 통제력을 높이는 것도 목표다. 공공기관과 기업은 자체 환경에서 AI 서비스를 구축·운영할 수 있는 선택지를 확보할 수 있다.
오케스트로 클라우드는 클라우드 플랫폼 제공과 기술 검증을 총괄한다. 서버 가상화 솔루션 '콘트라베이스'와 Ceph 기반 소프트웨어 정의 스토리지(SDS)를 바탕으로 퓨리오사AI의 신경망처리장치(NPU) 'RNGD', 업스테이지의 LLM '솔라(SOLAR)'를 연계한다.
기업별 역할도 나눴다. 퓨리오사AI는 NPU와 AI 추론 컴퓨팅 기술을, 업스테이지는 LLM과 추론 기술을 제공한다. SPK는 서버와 하드웨어 인프라를, 대원씨티에스는 데이터센터와 네트워크 인프라를 담당한다. 오케스트로의 풀스택 AI 인프라 소프트웨어와 오케스트로 클라우드의 구축·운영 역량을 결합해 통합 상품을 구현할 계획이다.
5개사는 상품 개발 이후 상용화와 함께 구축·운영·기술지원을 포함하는 관리형 서비스도 추진한다. 공공기관과 민간기업을 대상으로 공동 영업과 마케팅을 진행하고 개념검증(PoC), 벤치마크 테스트(BMT), 공동 제안 등 사업 협력도 확대할 방침이다.
박소아 오케스트로 클라우드 대표는 “AI 산업의 경쟁력은 개별 기술의 우수성을 넘어 이를 얼마나 완성도 높은 하나의 서비스로 구현하느냐에 달려 있다”며 “AI 컴퓨팅부터 모델 추론, 인프라 운영·관리까지 하나로 통합한 소버린 AI 풀스택 어플라이언스를 선보여 국내 AI 인프라 시장에 새로운 기준을 제시하겠다”고 말했다.
최호 기자 snoop@etnews.com
