노타는 하이퍼엑셀과 거대언어모델(LLM) 최적화 기술 공급 후속 계약을 체결했다고 12일 밝혔다. 지난해 9월 첫 계약에 이어 2년 연속 수주다.
하이퍼엑셀 LLM 추론 전용 반도체 '베르다 LPU'에 LLM과 연산 최적화 기술을 공급한다. 베르다에서 실행할 수 있는 LLM의 범위를 넓혀 서비스 목적에 맞는 인공지능(AI) 모델을 활용할 수 있게 지원한다.
AI 최적화 플랫폼 '넷츠프레소'를 활용해 베르다의 하드웨어(HW) 특성에 맞춘 모델 최적화를 수행한다. 하이퍼엑셀의 소프트웨어 개발도구(SDK)와 도메인 특화 언어 '레가토' 기반으로 기술을 적용한다.
특히 LLM의 주요 연산을 처리하는 커널을 LPU 구조에 맞춰 최적화하고 모델별 특성에 따라 양자화 기술을 적용해 메모리 사용 효율을 높일 계획이다.
노타는 반도체별 최적화 소프트웨어(SW) 공급 사업을 확대할 계획이다. 그래픽처리장치(GPU), 중앙처리장치(CPU), 신경망처리장치(NPU)에 이어 LPU까지 지원 범위를 확대했다.
김주영 하이퍼엑셀 대표는 “노타와의 지속적인 기술 협력을 통해 베르다 LPU의 모델 지원 범위를 확대하고 다양한 AI 추론 수요에 대응하겠다”고 말했다.
채명수 노타 대표는 “글로벌 AI 반도체 기업과 협력을 확대하고 모델부터 연산 커널까지 아우르는 최적화 소프트웨어 사업을 성장시키겠다”고 전했다.
최근 노타는 AMD '어드밴싱 AI 월드 투어 서울'행사에서 GPU·NPU 간 연산을 분담하는 AI 추론 최적화 기술을 공개했다. 넷츠프레소에 AI 에이전트 기반 최적화 기술을 적용한 성과도 소개했다.
조벼리 기자 starry@etnews.com
