인공지능(AI) 팩토리는 AI 모델 학습·추론을 위해 그래픽처리장치(GPU)와 네트워크, 스토리지, 소프트웨어를 통합 구축한 대규모 컴퓨팅 인프라다.
젠슨 황 엔비디아 최고경영자(CEO)가 제시한 개념으로, 원재료를 넣어 제품을 찍어내는 제조공장처럼 전력·데이터를 투입해 AI의 기본 단위인 '토큰'을 지속 생산하는 지능공장이라는 의미를 담았다.
기존 데이터센터가 데이터를 저장·처리하고 다양한 애플리케이션을 구동하는 범용 시설이라면, AI 팩토리는 지능 생산 자체에 특화됐다는 점에서 구분된다.
데이터 수집부터 대규모 추론에 이르는 AI 전 생애주기를 단일 인프라에서 최적화해 실시간 지능을 만들어낸다. 엔비디아는 AI 팩토리를 에너지·칩·인프라·모델·애플리케이션 등 5개 계층으로 구성된 통합 시스템으로 규정했다.
최근에는 GPU와 고대역폭메모리(HBM), 서버, 데이터센터, 전력, 냉각설비, AI 모델이 하나의 밸류체인으로 연결된 AI 생산 체계라는 개념으로 확장됐다.
생성형 AI 확산으로 연산 수요가 급증하면서 AI 팩토리는 반도체와 클라우드, 데이터센터 산업을 관통하는 핵심 성장 동력으로 주목받고 있다. 엔비디아도 칩 판매를 넘어 컴퓨팅 인프라 전체를 공급하는 AI 팩토리 사업을 글로벌 전략으로 추진하고 있다.
국가 차원의 AI 경쟁력 확보를 위해 AI 팩토리를 전략 인프라로 구축하려는 움직임도 확대되고 있다. SK그룹은 SK텔레콤을 주축으로 총 15GW 규모 AI 팩토리 구축 계획을 밝혔다. 이 프로젝트에는 약 1000조원이 투입된다. AI 인프라 기반으로 토큰을 생산하고 수출하는 새로운 사업 모델을 창출한다는 구상이다.
박준호 기자 junho@etnews.com
