서울 소재 딥테크 기업 비드래프트(대표 김민식)는 대규모언어모델(LLM) 추론 인프라를 위한 자체 엔진 'VKAE'와 'VKUE'를 하나의 세트 전략으로 완성했다고 밝혔다. 핵심 메인은 VKUE(VIDRAFT Kernel Ubiquitous Engine)다. VKUE는 35B급 프론티어 모델을 고가 GPU 서버뿐 아니라 소비자용 GPU, 노트북, CPU 환경에서도 구동 가능하게 만드는 경량 구동 엔진이다. 기존 AI 도입이 대규모 GPU 확보와 데이터센터 중심 구조에 묶여 있었다면, VKUE는 AI를 필요한 현장 가까이에 배치하는 기술이다.
VKUE가 적용된 'Ourbox-35B-JGOS'는 총 347억 파라미터 규모지만 토큰 생성 시 실제 활성화되는 파라미터는 약 30억 수준으로 설계됐다. 이를 통해 B200 환경에서는 초당 18,057토큰, A10G 1장에서는 초당 126토큰, 8GB 게이밍 노트북에서는 초당 20토큰, GPU가 없는 CPU 환경에서도 약 17토큰 생성을 실증했다. GPQA Diamond에서도 86.4%(maj@8)를 기록해 단순 경량화가 아니라 과학 추론 성능까지 확보한 점이 특징이다.
여기에 VKAE가 결합된다. VKAE는 동일 GPU에서 표준 서빙 대비 최대 23.4배 높은 추론 처리량을 기록한 커널 레벨 가속 엔진이다. 모델 가중치와 최적화된 서빙 환경을 통합한 Docker 컨테이너, OpenAI 호환 API, 공개 리더보드를 통해 재현 가능한 형태로 제공되며, Qwen3.5-35B-A3B 모델에서 단일 스트림 초당 601토큰, 다중 요청 환경에서 초당 1만 토큰 이상의 처리량을 보인 바 있다.
비드래프트는 VKAE와 VKUE를 'AI IDC를 위한 세트 메뉴'로 제안한다. AI IDC는 한정된 GPU 자원으로 더 많은 요청을 처리해야 하고, 동시에 병원·금융·공공·국방·제조 현장처럼 데이터를 외부로 보낼 수 없는 온프레미스 수요까지 대응해야 한다. VKAE가 데이터센터의 처리량과 수익성을 높인다면, VKUE는 GPU가 부족한 현장과 폐쇄망까지 AI 활용 범위를 확장한다. 특히 VKAE와 VKUE를 결합한 35B급 모델 구동 환경에서는 B200 GPU 1장 기준 동시접속 256명 상황에서도 초당 18,000토큰 이상을 지속 생성하는 최고 피크 성능을 확인했다. 이는 중앙 AI IDC에서는 더 빠르게, 말단 현장에서는 더 가볍게 구동하는 이중 구조가 가능하다는 점을 보여준다.
비드래프트는 앞서 Darwin-398B-JGOS가 GPQA Diamond에서 90.9%를 기록하며 과학추론 분야 성과를 공개한 바 있으며, 서울AI허브 입주기업으로 정부 GPU 지원 사업과 NIPA AI 컴퓨팅 활용 과제 등을 통해 연구개발을 진행해 왔다.
김민식 대표는 “AI IDC의 경쟁력은 GPU 보유량만이 아니라 같은 GPU를 얼마나 잘 굴리고, GPU가 없는 곳까지 어떻게 AI를 확장하느냐에 달려 있다”며 “VKAE는 속도를, VKUE는 접근성을 담당한다. 비드래프트는 두 엔진을 통해 큰 AI를 더 싸게, 더 빠르게, 더 가까이 쓰는 인프라 기업으로 성장하겠다”고 말했다.
이원지 기자 news21g@etnews.com
