노타가 AMD의 인공지능(AI) 기술 행사 '어드밴싱 AI 월드 투어 서울'에서 그래픽처리장치(GPU)와 신경망처리장치(NPU) 이기종 컴퓨터 환경의 AI 추론 최적화 기술 성과를 발표했다고 9일 밝혔다.
GPU와 NPU의 연산 작업을 분담하는 최적화 기술을 소개했다. AMD '라이젠 AI Max+ 395' 기반 자체 평가에서 AI 모델의 응답 시간을 최대 52% 단축하고 토큰당 에너지 소비를 31% 절감했다.
AI 모델의 입력 정보를 처리하는 '프리필'은 NPU가, 답변을 생성하는 '디코드'는 GPU가 담당하도록 연산 작업을 분리했다. 두 장치가 동일 모델 가중치를 공유하도록 설계해 중복 메모리 사용도 줄였다.
AI 모델 최적화 플랫폼 '넷츠프레소'에 AI 에이전트 기반 최적화 기술을 적용한 성과도 소개했다. AI 에이전트가 모델과 하드웨어(HW) 특성을 분석해 최적화 전략을 수립하고 성능을 검증·개선한다.
라마·큐원·파이·미스트랄 등 다양한 언어모델에서 검증한 결과 기존 AMD 하이브리드 환경 대비 메모리 사용량은 11~32% 감소했다. NPU 단독 실행 대비 답변 생성 속도는 2.5~3.8배 향상됐다.
노타는 지난 7월 AMD 로보틱스 파트너 네트워크에 합류했다. 삼성전자·Arm·퓨리오사AI·모빌린트 등 반도체 기업과도 협력한다. 향후 AI PC와 로보틱스 분야 플랫폼 라이선스 사업을 확대할 계획이다.
김태호 노타 최고기술책임자(CTO)는 “모델부터 추론 시스템 전반을 최적화하는 기술력을 검증했다”며 “글로벌 반도체 생태계와 협력해 AI 실행·운영 최적화 기술의 적용 범위를 넓히겠다”고 말했다.
노타는 앞서 미국 새너제이에서 열린 'Arm 크리에이트 2026' 워크숍에서 글로벌 개발자들을 대상으로 AI 모델 최적화 실습을 지원했다. 실습에는 노타의 '넷츠프레소' 기술이 활용됐다.
조벼리 기자 starry@etnews.com
