[에듀플러스]엘리스클라우드, 오픈소스 AI 생태계 최적화 솔루션 출시

'엘리스클라우드'가 오픈소스 등 다양한 범용 AI 모델을 클라우드 환경에서 안전하고 편리하게 사용할 수 있는 솔루션을 공개했다.(사진=엘리스그룹)

엘리스그룹은 '엘리스클라우드'가 오픈소스 등 다양한 범용 인공지능(AI) 모델을 클라우드 환경에서 안전하고 편리하게 사용할 수 있는 솔루션을 공개했다고 20일 밝혔다.

엘리스클라우드는 기존 머신러닝(ML) 응용프로그램인터페이스(API) 기능을 향상시켜 오픈소스 AI 모델을 맞춤형 AI 인프라에서 활용할 수 있는 'ML API 라이브러리' 기능을 선보였다. 별도의 설치, 설정 없이 다양한 오픈소스 AI 모델도 편리하게 쓸 수 있는 최적화된 그래픽 처리 장치(GPU)·신경망 처리 장치(NPU)를 제공하는 것이 특징이다.

API 기반 솔루션이 제공되는 일반 상용 AI 모델과 달리 오픈소스 AI 모델은 사용하는 모델에 따라 환경을 설정해야 하고, 원하는 특정 작업에 맞추는 파인 튜닝(Fine-Tunning)과정도 필요하다. 이러한 어려움 해소를 위해 엘리스클라우드는 GPU·NPU 환경을 각 오픈소스 모델에 최적화하고, 맞춤형 API를 제공한다.

엘리스클라우드는 딥시크의 R1, 메타의 라마(Llama) 등 오픈소스를 포함한 다양한 AI 모델에 따라 맞춤형으로 구성한 고성능 AI 인프라 환경에서 AI 챗봇 등의 개발 및 관리, 배포까지 간편하게 할 수 있다. 협약을 맺은 퓨리오사AI, 리벨리온의 최신 NPU를 활용한 고성능 컴퓨팅 서비스도 제공한다.

엘리스클라우드는 엣지데이터센터(Edge Data Center)인 엘리스 인공지능 이동형 모듈러 데이터 센터(Portable Modular Data Center, AI PMDC) 기반의 프라이빗 클라우드 환경에서 실행된다. 이를 통해 민감한 데이터의 외부 유출도 방지한다.

엘리스 AI PMDC는 모듈 단위로 구성이 가능해 물리적 격리가 가능하다. AI 수요 변화에 민첩하게 대응하는 것은 물론 전력효율지수(PUE)를 1.27까지 낮춰 높은 에너지 효율도 갖췄다.

엘리스클라우드는 연내 운영을 목표로 1기당 1MW급 AI PMDC를 설계 및 구축하고 있다. 고밀도 전력과 발열을 안정적으로 관리하기 위해 공간 최적화 설계와 직접액체냉각(DLC) 기술을 도입했다. 더불어 랙 당 160kW전력으로 엔비디아 B100을 비롯한 최신 고성능 GPU를 완벽하게 지원하도록 설계했다.

김재원 엘리스그룹 대표는 “현재 고성능 GPU H100 5천 장까지 수용할 수 있는 AI PMDC를 설계 및 구축했다”며 “엘리스클라우드 사업 본격화를 위해 GPU 확보와 더불어 R&D를 통한 기술 혁신과 투자에 집중하겠다”고 말했다.

정승은 기자 evelin@etnews.com