모레는 22일(현지시간)부터 23일까지 미국 샌프란시스코에서 열린 AMD의 연례 최대 AI 행사 '어드밴싱 AI 2026'에 참가해 AMD GPU 환경에서 자사의 분산 추론 솔루션 'MoAI 추론 프레임워크'를 선보였다고 밝혔다.
이번 행사에서 모레는 AMD MI300X GPU 32장(4노드)으로 구성된 시스템에서 'MoAI 추론 프레임워크'를 활용해 대규모 언어모델 GLM-5.1을 구동하는 라이브 데모를 진행했다. 방문객들은 실제 챗봇을 직접 사용하며 응답 속도와 서비스 품질을 체험했으며, 다양한 활용 시나리오에 따른 성능 테스트도 함께 확인했다.
특히 이번 데모는 단순히 모델을 구동하는 데 그치지 않고, GPU 활용률과 TPS(Tokens Per Second), TTFT(Time To First Token), TPOT(Time Per Output Token) 등 AI 추론 서비스의 핵심 성능 지표를 실시간으로 공개해 많은 관심을 받았다. 이를 통해 실제 서비스 환경에서의 처리 성능과 GPU 자원 활용 효율을 현장에서 직접 검증할 수 있도록 구성했다.
행사장을 찾은 글로벌 AI 업계 관계자들은 빠른 응답 속도와 안정적인 처리 성능에 높은 관심을 보였으며, 특히 AMD GPU에서 구동 난도가 높은 GLM-5.1 모델을 실시간 서비스 수준으로 구현한 점에 대해 긍정적인 평가를 이어갔다고 회사는 설명했다.
조강원 모레 대표는 “이번 행사에서는 AMD GPU 환경에서도 최고 수준의 추론 성능을 구현할 수 있음을 글로벌 고객들에게 직접 검증받은 자리였다”며 “앞으로도 GPU 종류에 관계없이 기업들이 AI 서비스를 가장 효율적으로 운영할 수 있도록 AI 인프라 소프트웨어 기술을 지속 고도화해 나가겠다”고 밝혔다.
정현정 기자 iam@etnews.com
