미래 산업의 설계자, 엔비디아를 이해하는 첫 번째 열쇠는 바로 '가속 컴퓨팅 하드웨어'에 있어요.
엔비디아는 스스로를 반도체 제조사에 머무는 기업이 아니라, 인공지능(AI) 시대의 계산 방식을 새로 설계하는 회사로 규정해 왔죠. 그 전략의 중심에 있는 것이 기존 컴퓨팅의 한계를 뛰어넘는 '가속 컴퓨팅'입니다.
가속 컴퓨팅이란, AI처럼 방대한 계산을 요구하는 작업을 더 빠르고 효율적으로 처리하기 위해 전용 하드웨어를 활용하는 방식을 말해요. 이 역할을 실제로 수행하는 장치가 GPU와 CPU이며, 엔비디아는 이 핵심 하드웨어를 가장 먼저, 가장 깊게 파고든 기업이에요.
왜 GPU였을까
가속 컴퓨팅의 출발점은 GPU입니다.
GPU는 원래 화면 속 그래픽을 빠르게 처리하기 위해 만들어진 장치였지만, 수많은 계산을 동시에 처리하는 구조 덕분에 AI 연산과 놀라울 만큼 잘 맞아떨어졌어요.
하나하나 순서대로 계산하는 기존 CPU 방식과 달리, GPU는 방대한 데이터를 한꺼번에 처리할 수 있었고, 이는 대규모 AI 학습에서 결정적인 차이를 만들어냈습니다. 엔비디아는 이 가능성을 일찍 알아보고 GPU를 AI 연산의 중심으로 키워 온 기업이에요.
블랙웰과 루빈, GPU의 진화는 계속된다
최근 등장한 블랙웰(Blackwell)과 차세대 루빈(Rubin) 아키텍처는 이러한 흐름의 연장선에 있어요.
현재 AI 인프라의 기준이 된 블랙웰은 칩과 칩 사이의 통신 속도를 극대화해 수천억 개의 파라미터를 가진 거대 모델을 효율적으로 돌리는 데 집중했습니다.
나아가 2026년의 주인공인 루빈 아키텍처는 HBM4라는 차세대 고대역폭 메모리를 세계 최초로 통합하며 데이터 병목 현상을 완전히 해결했죠.
엔비디아는 단순히 칩 성능을 높이는 데 그치지 않고, GPU 내부 구조와 데이터 처리 방식을 함께 바꾸며 이 문제에 대응해 왔어요. 더 많은 연산을 더 적은 에너지로, 더 빠르게 처리하는 방향으로 진화해 온 겁니다.
GPU를 뒷받침하는 또 하나의 축, GRACE CPU
한편 AI 시스템이 점점 커지고 복잡해질수록, GPU 혼자서 모든 역할을 맡기에는 한계가 드러나기 시작했어요.
대규모 데이터를 정리하고, 여러 개의 GPU를 하나의 시스템처럼 연결해 제어하는 작업은 여전히 CPU의 몫이었기 때문이죠.
이런 역할에 최적화된 해답으로 엔비디아가 내놓은 것이 바로 그레이스(GRACE) CPU입니다. 기존 CPU가 다양한 작업을 두루 처리하는 '범용 계산 장치'였다면, 그레이스는 가속 컴퓨팅 환경을 전제로 GPU와 함께 작동하도록 설계된 CPU라고 할 수 있어요.
그레이스 CPU는 GPU와의 초고속 연결을 통해 데이터 이동 병목을 줄이고, 대규모 AI 연산이 보다 효율적으로 이뤄지도록 돕습니다. AI 연산에서 GPU의 성능을 온전히 끌어내기 위해 태어난 CPU라고 할 수 있죠.
이처럼 엔비디아의 GPU와 CPU는 각각 독립적인 부품이 아니라, 하나의 계산 구조 안에서 역할을 나눠 맡는 구성 요소예요. 가속 컴퓨팅 하드웨어는 단일 칩의 성능 경쟁을 넘어, AI가 작동하는 전체 '몸체'를 설계하는 기술로 확장되고 있어요. 그리고 이 하드웨어 중심 전략이 바로 엔비디아가 AI 시대의 핵심 기반을 쥐고 있다고 평가받는 첫 번째 이유입니다.
「GPU를 깨우는 엔비디아의 무기, CUDA」 편에서 이어집니다.
최성훈 기자 csh87@etnews.com