“연산 칩의 성능이 아무리 뛰어나더라도 데이터를 이동하고 저장·처리하는 과정에서 병목이 발생하면 성능을 모두 활용할 수 없습니다. DPU는 이러한 병목을 해결하는 핵심 장치입니다.”
김장우 망고부스트 대표는 인공지능(AI) 데이터센터의 핵심 계층인 데이터처리장치(DPU) 원천기술을 국내에서 유일하게 확보한 배경을 이렇게 설명했다. 망고부스트는 AI 인프라의 데이터 이동·네트워크·스토리지 병목을 해결하는 DPU를 자체 설계·개발하는 시스템 반도체 기업이다. 'AI 주권(소버린 AI)'이 국가적 과제로 부상한 가운데, 하드웨어(HW)와 소프트웨어(SW)를 아우르는 '풀스택(Full-stack)' 전략으로 빠르게 성장하고 있다.
김 대표는 “병목은 HW나 SW 한쪽만으로는 해결되지 않는다”며 “DPU인 '부스트엑스', LLM 최적화 SW 'LLM부스트', 서버 '알폰소'와 '케사르'를 하나로 묶어 최적화해야 비로소 최고의 효과를 낼 수 있다”고 설명했다.
망고부스트의 강점은 칩과 서버에 머무르지 않는다는 점이다. 회사는 이제 데이터센터의 '혈관'에 해당하는 네트워크·패브릭 계층으로 풀스택을 본격 확장하고 있다.
망고부스트는 과학기술정보통신부 국책과제 3건을 확보했다. '차세대 AI 반도체를 위한 DPU 중심의 데이터센터 아키텍처'를 통해 'RoCEv2(RDMA over Converged Ethernet version 2)' 기반 DPU를 개발 중이며, 상용 제품 대비 30% 비용 절감(비용 대비 성능 기준)을 올해 목표로 한다.
이어 '데이터센터형 이더넷 기반의 고성능 스마트 스위치 시스템 개발'로 RoCEv2를 우선 지원하는 51.2Tbps급 스마트 네트워크 스위치 시스템을 개발, 2027년 상반기 시제품 출시를 추진한다. 올해 상반기 선정된 '초저지연·무손실·고대역폭 AI 데이터센터 패브릭 플랫폼 개발'에서는 자체 DPU와 스마트 스위치를 기반으로 400G/800G 패브릭 구조를 설계한다.
이미 확보한 핵심 기술을 바탕으로 개발 기간을 앞당겨 DPU·서버·SW에 이어 네트워크 장비와 패브릭까지 아우르는 완성형 풀스택 솔루션을 구축한다는 구상이다.
망고부스트는 앞서 'MLPerf v6.0'에서 업계 최초로 다중 리전 기반 이기종 추론 시스템을 구현하며 기술력을 입증했다. 미국과 한국에 분산된 GPU 클러스터를 성능 손실 없이 실시간 연결하는 '라이브 파이프라인'으로 국경을 넘는 AI 인프라 운영 가능성을 보여줬다.
사업화에도 속도가 붙고 있다. 국내외 전시회에서 제품을 선보이고 아크릴·글루시스, 에임인텔리전스와 협력을 확대했으며, DCP 강남 AI 데이터센터 시설 가동과 'K문샷', 광주 국가 NPU 컴퓨팅센터 사업에 참여 중이다.
김 대표는 “망고부스트의 가장 큰 경쟁력은 AI 데이터센터 효율을 극대화하는 시스템 분석·설계·최적화 역량”이라며 “요소 기술들을 고객의 GPU 구성이나 네트워크 환경에 맞게 유연하게 조합하고 재구성할 수 있어 어떤 환경에서도 최고의 성능을 구현할 수 있다”고 밝혔다.
이형두 기자 dudu@etnews.com
