인텔코리아가 인공지능(AI) 시장의 다음 성장 동력으로 중앙처리장치(CPU)를 지목했다. 생성형 AI를 이끌었던 그래픽처리장치(GPU) 중심 인프라에서 벗어나 AI가 직접 작업을 수행하는 에이전틱 AI 시대에는 CPU의 역할이 커질 것이란 분석에서다.
조민성 인텔코리아 기술총괄 상무는 28일 여의도 콘래드 서울에서 열린 전자신문 '테크서밋 2026'에서 “기업들이 업무를 할 때 2~3개의 AI를 필수적으로 사용하는 만큼, AI는 뗄 수 없는 관계가 됐다”며 “에이전틱 AI가 조직 전반으로 확산되는 것은 피할 수 없는 흐름”이라고 말했다.
에이전틱 AI는 사용자의 지시를 바탕으로 목표를 설정하고 계획을 수립한 뒤, 실제 작업을 수행하는 AI다. 기존 챗봇이 질문에 답변을 생성하는 데 집중했다면 에이전틱 AI는 계획 수립과 실행, 결과 확인을 반복하며 목표 달성을 시도한다. 이 과정에서 대규모 언어모델(LLM)의 추론 등 다양한 연산이 필요하다.
인텔은 이 가운데 CPU의 중요성을 강조했다. CPU가 작업의 순서를 조정하고 상태를 관리하며 외부 도구를 실행하는 등 전체 과정을 통제하는 역할을 수행한다는 것이다. AI 서비스의 성능을 평가할 때도 단위 시간 당 토큰 처리량뿐만 아니라, 실제 작업을 얼마나 빠르고 효율적으로 완료하는지가 중요해진다는 설명이다.
실제 에이전틱 AI 워크로드에서는 검색과 도구 실행, 데이터 처리 등 CPU가 담당하는 영역이 전체 처리 시간에서 상당한 비중을 차지한다. 인텔은 대표적인 에이전틱 AI 워크로드에서 전체 실행 시간의 40~88%가 CPU 작업에 사용될 수 있다고 전했다.
AI 활용이 늘어날 수록 비용 관리의 중요성도 커진다고 밝혔다. 토큰당 처리 비용이 낮아지더라도 에이전틱 AI는 하나의 작업을 완료하기 위해 여러 차례 추론과 도구 호출을 반복하기 때문이다. 인텔은 에이전틱 AI 코딩 작업이 일반적인 챗봇 대화보다 훨씬 많은 토큰을 사용할 수 있다는 점을 들어 CPU 성능뿐 아니라 CPU 실행 비용과 자원 활용률을 고려해야 한다고 밝혔다.
인텔은 CPU와 GPU를 결합한 이기종 컴퓨팅 환경이 성능과 비용 효율을 동시에 확보하는 대안이 될 것으로 보고 있다. 모든 작업을 GPU에서 처리하기보다 CPU가 잘 수행하는 작업은 CPU에 맡기고, 고성능 추론이 필요한 영역에는 GPU 등 가속기를 활용하는 방식이다.
회사는 모델 학습 중심의 인프라에서 추론과 검색 증강 생성, 에이전틱 AI로 발전하면서 CPU와 GPU의 비중이 점차 균형을 이루는 방향이 이상적이라고 제시했다. 향후에는 작업 특성에 따라 소프트웨어가 CPU와 가속기를 선택하는 구조로 진화할 수 있다는 전망이다.
조 상무는 “소프트웨어까지 일관된 AI 스택을 통해 다양한 에이전틱 AI의 개발과 실행을 가속화할 것”이라고 말했다.
전소연 기자 soyeon@etnews.com
