한국의 AI 딥테크 기업 비드래프트(대표 김민식)가 구글 Gemma팀과 허깅페이스가 공동 운영한 글로벌 추론 최적화 경연 'The Fast Gemma Challenge'에서 검증 기록 기준 세계 1위에 올랐다고 밝혔다.
이 대회는 쉽게 말해 “같은 자동차, 같은 트랙에서 누가 가장 빨리 달리게 만드는가”를 겨루는 AI 튜닝 경주다. 참가자 전원이 구글의 공개 멀티모달 모델 'gemma-4-E4B-it'와 동일한 NVIDIA A10G GPU를 받아, 소프트웨어 최적화 실력만으로 속도를 끌어올려야 한다. 모델을 바꾸거나 텍스트·이미지·오디오 기능을 끄는 꼼수는 금지된다.
특히 이 대회의 순위는 주최 측이 비공개 문제로 다시 실행해 속도와 품질을 직접 확인한 'VERIFIED' 기록으로만 결정된다. 심판이 재현한 기록만 인정하는 구조라 부풀리기가 원천적으로 불가능하다.
비드래프트의 자율 AI 에이전트 'vidraft-darwin'은 이 검증을 통과하며 초당 510.58토큰(TPS), PPL 2.3929를 기록했다. 원래 모델의 기본 추론 속도 대비 약 6배 이상 끌어올린 수치이자, 답변 품질을 지킨 검증 기록 가운데 최고 성능이다. 속도만 좇다 품질을 희생하는 흔한 함정에 빠지지 않고 두 마리 토끼를 잡았다는 점이 성과의 핵심이다.
이 기록이 중요한 이유는 AI 산업의 무게중심 이동에 있다. 모델을 만드는 경쟁만큼, 같은 하드웨어에서 얼마나 빠르고 싸게 서비스하느냐가 승부처가 됐다. 추론 속도를 6배로 높인다는 것은 같은 서비스를 6분의 1의 GPU로 운영할 수 있다는 뜻으로, 최적화 기술력이 곧 비용 경쟁력이자 AI 인프라 주권이 된다.
이번 기록에는 비드래프트가 자체 개발해 온 VK 계열 추론 엔진과 GPU 없이 대형 모델을 구동하는 온디바이스 플랫폼 'POCKET'의 최적화 노하우가 적용됐다. 비드래프트는 완전 공개형 파운데이션 모델 'AETHER'와 진화형 모델군 'Darwin'까지, 모델 개발부터 경량화·배포를 아우르는 기술 체계를 갖추고 있다.
김민식 대표는 “AI 경쟁력은 모델 크기가 아니라 같은 하드웨어에서 얼마나 빠르고 경제적으로 서비스하느냐로 결정된다”며 “품질을 지키면서 효율을 높이는 우리 기술이 국제 공개 경연에서 검증받았다”고 말했다.
비드래프트는 서울 소재 Pre-AGI·AI 인프라 연구기업으로, AI 모델·추론 엔진·온디바이스 AI·양자컴퓨팅을 기반으로 물리·화학·생명과학·신약개발 연구를 수행하고 있다. 검증 결과는 Fast Gemma Challenge 공식 리더보드에서 확인할 수 있다.
이원지 기자 news21g@etnews.com
