삼성SDS가 국내 업계 최초로 엔비디아의 최신 그래픽처리장치(GPU)인 '블랙웰 울트라(B300)' 기반의 GPU 구독형 서비스(GPUaaS)를 출시했다. AI 에이전트, 이미지·영상 생성 등 고성능이 필요한 AI 서비스의 지연 시간을 최소화해 기업의 고성능 컴퓨팅 수요에 대응한다는 전략이다.
삼성SDS는 자사 클라우드인 삼성 클라우드 플랫폼(SCP)을 통해 'SCP B300 GPUaaS'를 본격 서비스한다고 23일 밝혔다. 이번 출시는 기업들이 AI 모델 개발을 넘어 실제 서비스에 적용하는 'AI 추론' 단계로 진입함에 따라 급증하는 고성능 연산 수요를 잡기 위한 조치다.
B300 GPU는 12단 고대역폭메모리(HBM3E)를 탑재해 GPU당 288GB의 메모리 용량과 초당 8TB의 대역폭을 제공한다. 이는 기존 H100 대비 용량은 3.6배, 대역폭은 2.4배 향상된 수치로, 복잡한 연산이 필요한 AI 추론 영역에서 압도적인 성능을 발휘한다. 특히 대규모 언어 모델(LLM) 실행 시 발생하는 데이터 병목 현상을 획기적으로 개선해 전반적인 처리 속도를 높였다.
삼성SDS는 2021년 A100, 2023년 H100 기반 서비스를 선제적으로 제공하며 국내 GPUaaS 생태계를 주도해 왔다. 이번 B300 도입 고객은 고용량 메모리를 통해 거대 AI 모델을 효율적으로 처리할 수 있으며, 필요한 만큼만 쓰고 지불하는 구독형 모델을 통해 초기 투자 리스크를 낮추고 비용을 최적화할 수 있다.
또한 GPU 수급이 어려운 시장 상황에서도 엔비디아의 최신 아키텍처를 즉시 업무에 도입할 수 있다는 점이 큰 장점이다. 삼성SDS의 보안 역량이 결합된 클라우드 환경에서 기업의 민감한 데이터를 안전하게 처리할 수 있다는 점도 차별화 요소다.
삼성SDS는 오는 3분기 중 사용한 토큰량만큼만 비용을 지불하는 '서버리스(Serverless) 추론 서비스'와 데이터 입력 시 즉시 AI를 분산 학습시키는 'AI 학습 서비스' 등을 추가로 선보일 계획이다.
이호준 삼성SDS 클라우드서비스사업부장(부사장)은 “SCP가 보유한 자원 최적화 및 에너지 절감 역량을 바탕으로 대기업부터 공공기관까지 국내 최초 B300 서비스를 제공해 고객의 AX(AI 전환)를 적극 지원하겠다”고 밝혔다.
한편, 삼성SDS는 민관협력형(PPP) 클라우드 사업자로서 대구센터에 H100 기반 인프라를 최초 도입하는 등 범정부 초거대 AI 공통기반 구현 사업을 수행 중이다. 또한 과기정통부 주관 고성능 컴퓨팅 지원사업의 수행사로서 60여 개 중소기업과 스타트업, 연구기관 등에 GPU를 공급하며 저변을 넓히고 있다.
최호 기자 snoop@etnews.com
