리벨리온이 레드햇과 함께 기업용 인공지능(AI) 서비스에 필요한 하드웨어·소프트웨어(HW·SW)를 통합한 신경망처리장치(NPU) 기반 추론 플랫폼을 내놨다.
리벨리온은 레드햇과 함께 '리벨리온 NPU 기반 레드햇 오픈시프트 AI'를 공개한다고 11일 밝혔다.
이 플랫폼은 레드햇의 '오픈시프트 AI'와 리벨리온의 NPU, 고효율 추론 엔진 vLLM을 결합한 형태다. 고객의 AI 추론 최적화를 위한 핵심 요소를 통합한 것이다.
주요 기능은 △확장 가능한 엔터프라이즈급 AI 지원 △보안 강화 및 규제 준수 △그래픽처리장치(GPU) 수준의 운영 편의성 △코어부터 엣지까지 가능한 선형 확장성 등이다.
리벨리온 NPU는 AI 추론 최적화 아키텍처로 설계돼 GPU 대비 최대 3.2배 높은 에너지 효율을 제공한다. 풀스택 소프트웨어와 주요 오픈소스 프레임워크를 지원해 개발자에게 GPU와 동일한 개발 환경을 제공한다.
리벨리온의 소프트웨어 스택은 레드햇 오픈시프트 AI에 최적화돼 오버헤드를 줄이고 배포 속도를 높인다. 레드햇 인증을 받은 리벨리온 NPU 오퍼레이터는 온프레미스와 멀티클라우드 환경 모두에서 안정적인 통합과 규제 대응을 지원한다.
양사는 기업 대상 컨설팅과 실증을 통해 AI 인프라 구축을 지원해 나갈 계획이다.
박성현 리벨리온 대표는 “기업들은 성능·비용·데이터 주권을 모두 충족하는 인프라를 필요로 하고 있다”며 “이번 협력은 하드웨어부터 모델 서빙까지 통합된 추론 플랫폼을 통해 NPU 기반 인프라의 새로운 가능성을 제시한 첫 사례”라고 말했다.
박진형 기자 jin@etnews.com
