인공지능(AI) 메모리 수요가 폭발적으로 증가했지만 구조적으로 공급 부족 현상이 당분간 지속될 것이라는 분석이 나왔다. 하지만 하이퍼스케일러(대형 클라우드·데이터센터 운영사)를 중심으로 한 AI 투자는 지속될 것으로 예측됐다.
마이클 델 델 테크놀로지스 최고경영자(CEO)는 7일(현지시간) 뱅크 오브 아메리카(BoA) 행사에 참석해 “AI 인프라에서 가속기당 메모리와 시스템 규모가 동시에 확대되면서 전체 메모리 수요는 약 625배 증가하는 구조가 형성되고 있다”고 밝혔다.
이어 “메모리 공급 확대에는 수년이 소요되지만 현재 AI 인프라 수요는 둔화되지 않고 있다”며 “우리는 여전히 기술 도입 초기 단계에 있다”고 강조했다.
델 CEO는 AI 가속기 1개당 메모리 용량이 2022년 엔비디아 'H100'에서 80GB였지만 2028년에는 2TB까지 늘어나는데, 동시에 데이터센터 내 가속기 배치 규모 역시 약 25배 커지면서 전체 메모리 수요가 최대 625배(25X25)까지 급증한다고 설명했다.
하지만 2023년 메모리 업체들이 업황 악화로 투자가 위축되면서 공급 부족 현상이 발생했다는 것이다.
그럼에도 AI 수요 확대와 지정학적 긴장에 따른 소버린 AI 구축 추진에 견조한 서버 수요가 이어지고 있다고 전했다.
델은 “연봉 10만달러 수준의 지식 노동자가 오래된 PC나 비효율적인 시스템을 사용하는 것은 합리적이지 않다”며 “생산성을 고려하면 기업은 인프라 투자를 진행할 수밖에 없다”고 말했다. 이어 “국내총생산(GDP) 상위 약 25개 국가 대부분은 어떤 형태로든 소버린 AI 프로젝트를 진행하고 있다”고 덧붙였다.
그는 “가격 상승이나 일시적 지연은 있을 수 있지만, 기업과 클라우드 사업자는 결국 인프라를 도입할 수밖에 없는 상황”이라며 “문제는 '살 것인가'가 아니라 '언제 사느냐'”라고 강조했다.
박진형 기자 jin@etnews.com
