“굉장히 이른 시점에 인간 지능을 능가하는 인공지능(AI)의 시대에 살게 될 겁니다. 이런 시대에 PC부터 대규모 AI 클러스터까지 하나의 환경에서 운영할 수 있게 지원하는 게 래블업의 방향성입니다.”
신정규 래블업 대표는 29일 서울 삼성동 코엑스 컨퍼런스룸에서 열린 '래블업 컨퍼런스' 기조연설에서 엔드투엔드 AI 플랫폼의 발전 방향을 제시하며 이같이 말했다.
신 대표는 AI 시대 지능을 측정하는 단위로 '토큰·전력·지력'을 제시했다. 그는 “칩을 극단까지 최적화하면 에너지를 넣는 만큼 연산할 수 있기 때문에 가장 정직한 단위는 전력”이라며 “지능, 즉 지력이 중요한 이유는 동일한 토큰으로 더 많은 일을 할 수 있기 때문”이라고 설명했다.
이어 “동일한 토큰으로 얼마나 더 많은 지능을 압축해 제공할 수 있는지가 중요한 시점”이라며 “이 세 가지를 어떻게 측정할 것인지가 래블업의 향후 10년 목표인 '지능의 민주화'의 핵심”이라고 강조했다.
래블업은 AI 인프라부터 에이전트까지 아우르는 엔드투엔드 AI 플랫폼으로 사업 영역을 넓힌다. AI 인프라 운영 플랫폼 '백엔드닷AI'를 기반으로 거대언어모델(LLM)의 학습·추론·서비스 운영을 지원하고, '컨티넘(Continuum)'으로 여러 모델의 요청 분배와 토큰 사용량·비용을 관리한다.
토큰 팩토리를 구현하는 핵심 계층은 컨티넘이다. '컨티넘 라우터'는 클라우드와 자체 구축 모델을 연결해 요청을 분배하고 '컨티넘 허브'는 여러 라우터의 토큰 사용량을 중앙에서 관리한다. 신 대표는 “토큰이 전기처럼 사용된다면 계량기가 필요하다”며 “컨티넘은 계량 가능한 지능에 대한 래블업의 첫 번째 답”이라고 밝혔다.
AI 에이전트 확산에 맞춰 인프라도 확장한다. 래블업은 마이크로 가상머신(VM)과 컨테이너를 결합해 에이전트별 컴퓨팅 자원을 제어하는 '누빔(Neuvm)'을 개발 중이다. 신 대표는 “특정 에이전트가 열심히 일하면 나머지 에이전트가 자원을 쓰지 못하는 상황이 생길 수 있다”며 “VM 수를 크게 늘리지 않으면서 컨테이너의 유연성을 유지하는 방식으로 개발하고 있다”고 설명했다.
기업용 AI 에이전트 플랫폼도 개발한다. 에이전트 생성·운영부터 외부 도구 호출과 자격 증명 등을 중앙에서 관리하는 구조다. 이를 활용해 사람과 AI 에이전트가 같은 채널에서 협업하는 업무 공간 '스페이스'도 구현했다.
신 대표는 “로컬 AI 환경에서는 기존과 다른 형태의 모델이 필요하다고 보고 디퓨전 LLM을 개발하고 있다”며 “오는 12월 30B급 모델 공개를 목표로 모델을 훈련하고 있다”고 설명했다.
이어 신 대표는 “AI 인프라는 갈수록 복잡해지고 있다”며 “수면 아래에서 일어나는 복잡한 과정을 보다 직관적으로 만들어 누구나 지능을 계량하고 활용할 수 있게 하겠다”고 덧붙였다.
조벼리 기자 starry@etnews.com