“인공지능(AI) 기술 고도화로 AI 에이전트 서비스가 본격화하면서 기존 그래픽처리장치(GPU)만으로는 폭발적으로 늘어나는 AI 수요를 감당하기 어려워졌습니다. 앞으로는 쇼트 메모리를 위한 스토리지 시스템을 따로 만들어서 스토리지에 구현해야 하는 것이 중요합니다.”
정무경 디노티시아 대표는 29일 여의도 콘래드서울에서 열린 전자신문 '테크서밋 2026'에서 이 같이 밝혔다. AI 인프라의 핵심 병목 지점이 연산 성능에서 데이터 처리 및 저장 영역으로 이동하면서 더 이상 GPU만으로는 AI의 수요를 따라잡을 수 없다는 분석이다.
디노티시아는 AI 인프라의 주도권이 연산에서 데이터로 이동하고 있다고 분석했다. 최신 AI 프론티어 모델 간 성능 격차가 줄어들고 토큰당 추론 비용이 하락하면서 연산 자체는 서비스의 한계 요소로 작용하지 않는다고 봤다.
반면, 스스로 판단하는 능력이 있는 AI 에이전트 시대가 열리면서 데이터 검색이 새로운 문제로 떠올랐다. 디노티시아는 AI 에이전트 시장은 연평균 45.8% 성장할 전망이며, 올해 하반기에는 AI 에이전트가 일으키는 일일 검색량이 구글 검색량을 넘어설 것으로 예측했다.
문제는 기존 중앙처리장치(CPU) 기반 서버나 소프트웨어 중심의 데이터만으로는 이러한 폭증을 처리하는 데 한계가 있다는 점이다.
디노티시아는 이러한 병목 현상을 해결하기 위해 데이터 처리 전용 반도체인 VDPU를 제시했다. VDPU는 GPU와 CPU에 집중되던 데이터 검색, 압축, 관리 작업을 전담해 처리하는 가속기다.
VDPU는 스토리지 내부에서 문서나 이미지 등 비(非)구조화 데이터의 의미 기반 검색을 수행한다. 또한 CPU 메모리를 거치지 않고 스토리지에서 GPU 고대역폭메모리(HBM)로 데이터를 직접 전송하는 'VDPU-다이렉트' 기술을 적용해 전송 지연 시간을 최적화했다. 실시간 컨텍스트 데이터 압축 기능과 함께 HBM, 디램(DRAM), 서버용 솔리드스테이트드라이브(SSD) 간 메모리를 계층화해 관리하는 기능도 내장했다.
디노티시아는 AI가 인간처럼 작업을 수행하기 위해서는 스토리지 시스템이 AI의 기억장치 역할을 해야한다고 전했다. 회사는 AI 메모리를 △외부 지식 △장기 메모리 △단기 메모리 등 세 가지로 구분해 관리해야 한다고 강조했다.
실제 성능 평가에서 VDPU를 탑재한 디노티시아의 '씨호스 AI 스토리지' 플랫폼은 기존 오픈소스 및 상용 벡터 데이터베이스(DB) 대비 최대 15배 빠른 검색 속도를 보였다. 디노티시아는 기존 10대의 CPU 서버가 필요했던 데이터 처리 작업을 단 1대의 씨홀스 서버로 대체할 수 있다고 설명했다. 이를 통해 동일 성능 기준 데이터센터 총소유비용(TCO)을 최대 88% 절감하고, 설치 공간(Footprint)을 약 93% 축소할 수 있다는 구상이다.
정 대표는 “컴퓨팅 시스템은 데이터 없이 능력을 발휘하지 못한다”며 “결국에는 스토리 시스템이 얼마나 빠르고 정확하게 동작하는지가 중요하다”고 말했다.
전소연 기자 soyeon@etnews.com
