파이어웍스AI 등 글로벌 AI 기업들, 오라클 클라우드 기반으로 성능·비용 최적화

[사진= 오라클 제공]

오라클 클라우드 인프라스트럭처(OCI)가 세계적인 인공지능(AI) 선도 기업들로부터 AI 모델 훈련과 추론, 애플리케이션(앱) 배포를 위한 인프라로 잇달아 선택됐다.

오라클에 따르면 파이어웍스AI, 헤드라, 누멘타, 소니옥스 등이 OCI를 도입했다. 고성능과 확장성, 비용 효율성 등을 이유로 꼽았다.

예를 들어 파이어웍스AI는 OCI의 AMD MI300X 그래픽처리장치(GPU)와 엔비디아 호퍼 GPU 기반 컴퓨트 인스턴스를 통해 하루 2조건 이상의 추론 토큰을 처리한다.

파이어웍스AI는 텍스트·이미지·오디오·멀티모달 형식의 100여개 오픈 모델을 서비스하는 생성형 AI 플랫폼이다.

오라클은 세계적으로 수백여 AI 기업이 OCI AI 인프라스트럭처와 슈퍼클러스터를 통해 대규모 모델 훈련과 추론, 디지털 트윈, 병렬 HPC 애플리케이션 등을 처리하고 있다고 설명했다.

오라클 관계자는 “GPU 클러스터 기반의 고성능 컴퓨팅 자원을 제공해서 AI 기업들의 훈련·추론 워크로드 최적화를 지원한다”며 “다양한 사례는 OCI의 기술 경쟁력을 드러낸다”고 밝혔다.

현대인 기자 modernman@etnews.com