엔비디아 GPU에 국산 NPU 연결…SKT, 통합AI 인프라 구축한다

자료=SK텔레콤
자료=SK텔레콤

SK텔레콤이 자사 인공지능 데이터센터(AIDC)에 신경망처리장치(NPU)와 그래픽처리장치(GPU)를 연계한 이기종 컴퓨팅 인프라를 구현한다. 국산 NPU를 엔비디아 플랫폼에 탑재하는 구조로, 국내 AI 반도체 기업의 글로벌 AI 인프라 시장 진출 발판이 마련됐다는 평가다.

SK텔레콤과 리벨리온, 엔비디아는 9일 서울 코엑스에서 열린 '엔비디아 AI데이 서울 2026'에서 이같은 내용의 GPU·NPU 통합 시스템 개발 업무협약을 체결했다. 이번 협약은 과학기술정보통신부와 엔비디아가 협의해 온 NV링크 퓨전 기반 국산 NPU 연계 협력 일환이다.

NV링크 퓨전은 엔비디아 GPU간 데이터를 주고 받는 연결 기술을 외부 파트너 가속기에도 쓸 수 있도록 확장한 기술이다. 3사는 이를 활용해 리벨리온이 개발 중인 NPU '리벨 R200'을 엔비디아 플랫폼에 연결하고 서버 랙 단위의 GPU·NPU 통합 시스템을 개발한다.

SK텔레콤은 “고성능 연산이 필요한 프리필 단계는 GPU가 맡고, 답변을 만들어 내는 디코드 단계는 메모리에서 데이터를 빠르게 불러올 수 있는 NPU에 맡겨 속도·전력 효율을 높일 수 있다”고 설명했다.

SK텔레콤은 GPU·NPU 통합 시스템을 구축하는 AIDC에 도입해 성능·안정성을 실증하고 실제 서비스 활용과 상용화 가능성을 검토한다. 한국형 소버린 AI 인프라 구축 사례를 확보했다는 점에서도 의미가 깊다는 평가다.

정부도 이번 협력이 국내 기업의 글로벌 AIDC 시장 진입 및 비용·전력 효율을 중시하는 AI 추론 시장에서 새로운 사업 기회를 확보하는데 기여할 것으로 내다봤다. 앞서 AMD와도 협력을 맺으면서 UA링크·NV링크 두 진영 모두에서 국산NPU 결합 생태계를 넓힐 토대가 마련됐다.

과기정통부는 이번 협력을 리벨리온에 그치지 않고 다른 국산NPU 기업으로 확산할 계획이다. 실증·사업화·수출로 이어지는 산업 생태계를 조성해 국산 AI 반도체의 글로벌 경쟁력 강화를 지원한다는 방침이다.

정석근 SK텔레콤 AI CIC장은 “이번 협력은 엔비디아 GPU와 리벨리온 NPU의 강점을 결합해 추론 성능과 전력 효율을 높일 수 있는 한국형 소버린 AI 인프라의 가능성을 검증하는 데 의미가 있다”고 밝혔다.

아쉬시 카란디카르 엔비디아 NV링크퓨전 부사장은 “NV링크 퓨전은 한국의 주문형반도체(ASIC)를 엔비디아의 AI 팩토리 플랫폼과 결합해 고성능 AI 인프라를 구현할 수 있도록 지원한다”며 “엔비디아는 한국의 소버린 AI 역량을 강화하고, 차세대 AI 컴퓨팅 생태계 구축에 기여하겠다”고 밝혔다.

박준호 기자 junho@etnews.com

  • ET Events