인텔이 에이전틱 인공지능(AI)에 혁신 기술과 신제품을 공개했다. 개방형 소프트웨어(SW)와 함께 에이전틱 AI 인프라 구축을 지원할 방침이다.
인텔은 미국 캘리포니아 새너제이에서 열린 '오픈컴퓨트프로젝트(OCP) 글로벌 서밋'에서 추론용 그래픽처리장치(GPU) D-시리즈(코드명 크레센트 아일랜드) 추가 사양과 제온 기반 랙 설계를 공개했다. 중앙처리장치(CPU)·GPU·전용 가속기와 개방형 소프트웨어(SW)를 결합한 이기종 AI 인프라로 에이전틱 AI 성능과 비용·전력 효율을 높인다는 전략이다.
GPU D-시리즈는 메모리 집약적 AI 추론에 초점을 맞췄다. 최신 Xe3P 아키텍처를 기반으로 최대 480GB LPDDR5X 메모리, 초당 1.5테라바이트(TB )메모리 대역폭, FP8 기준 1.3페타플롭스(FLOPS) 연산 성능을 350W 전력 범위에서 제공한다.
단일 카드로 최대 3000억개 매개변수 모델을, GPU 8개 시스템으로 1조개가 넘는 매개변수 모델을 지원한다. 대규모 언어모델, 긴 문맥 처리, 동시 추론 서비스, 멀티테넌시 AI와 로보틱스 시장을 겨냥했다.
인텔은 생태계 파트너들과 공동 개발한 제온 기반 랙 설계를 선보였다. 상당수 설계는 OCP 오픈 랙 v3(ORv3) 표준을 적용해 구축과 통합을 간소화했다. 일부 제온 6+ 구성에서는 총 랙 전력 133.45kW 기준 4만6000개이상 코어를 집적해 대규모 에이전틱 AI 워크로드를 지원한다. 현재 고객 대상 샘플을 공급하고 있다.
인텔은 CPU와 GPU에서 업계 표준 AI 프레임워크, 추론 런타임, 배포 도구를 활용하도록 SW 통합도 강화한다. 공통 Xe SW 기반으로 GPU 간 애플리케이션 이식성을 높이고, 성능 라이브러리로 추론 처리량을 최적화한다. 신규 개방형 모델의 출시 당일 지원도 추진하며, 최근 메타 '뮤즈 글리머'를 지원했다.
특히 '인텔 AI 엔터프라이즈 에이전트 툴킷'은 현재 제온에 최적화된 형태로 배포할 수 있다. 향후 인텔 GPU로 확장하도록 설계됐다.
OCP는 2011년 설립된 개방형 데이터센터 인프라 연합이다. Arm·IBM·인텔·구글·마이크로소프트(MS)·엔비디아·시스코 등 400개 이상 기업이 활동하고 있다.
인텔은 2011년 이후 OCP에 총 116건을 기여했다. 올해는 파트너들과 오픈 어댑터 카드 워킹그룹 활동을 통해 서브랙 가속기 카드 폼팩터 표준화를 추진한다. 기계·전기·관리 측면의 상호운용성을 높여 가속기 통합을 간소화하고, 고객이 기존 투자 자산을 활용하면서 AI 인프라를 확장하도록 지원한다.
권동준 기자 djkwon@etnews.com
