구글이 자체 개발한 인공지능(AI) 전용 칩이다. 미국 반도체 팹리스인 브로드컴과 함께 설계했다.

TPU는 AI 모델의 학습과 추론에 최적화된 주문형반도체(ASIC)다. 대규모 행렬 연산을 고속 처리하는 구조로 설계돼 딥러닝 학습·추론 성능을 극대화한다. 특정 목적에 최적화된 구조로 설계돼 효율성과 성능을 크게 높였다. 그래픽처리장치(GPU) 대비 전력 소모와 비용을 크게 줄일 수 있다는 점도 경쟁력으로 꼽힌다.

구글은 제미나이3의 학습 및 구동에 TPU를 활용했다. 특히 TPU로 학습한 제미나이3 프로가 오픈AI의 최신 모델(GPT-5.1)을 능가하는 성능을 보이면서 엔비디아 대항마로 급부상했다. AI 시장이 고도화되고 활용 분야가 세분화될수록 범용 GPU만으로 모든 수요를 충족하기 어렵다는 판단에서다. TPU는 검색·추천·이미지·음성·대규모 언어모델(LLM) 서비스 운영에 활용된다.

TPU 생태계는 한국 반도체 산업과도 밀접하게 연결된다. 구글 TPU용 고대역폭 메모리(HBM) 공급은 SK하이닉스·삼성전자가 주도한다. 한국투자증권에 따르면 올해 구글 TPU 내 HBM 공급 비율은 SK하이닉스가 56.6%, 삼성전자 43.4%로 추정된다. TPU에는 HBM이 6~8개 탑재돼 새로운 수요 창출 견인차 역할을 할 예정이다.

TPU 부상으로 엔비디아 GPU가 대부분을 차지해 온 글로벌 AI 칩 시장도 재편될 전망이다. 다만 전문가들은 GPU와 TPU는 대체재가 아닌 상호 보완재로서 각자의 최적화 영역에서 역할을 분담하며 동반 성장할 것이라고 내다봤다.