수세코리아가 기업의 AI를 개별적인 실험과 개념검증(PoC) 단계에서 벗어나 실제 운영 가능한 '프라이빗 엔터프라이즈 AI'로 전환하기 위한 인프라 전략을 제시했다.
최기원 수세코리아 부장(Solution Architect)은 전자신문인터넷이 10월 23일 서울 서초구 엘타워에서 개최한 'AX & 하이퍼오토메이션 코리아 2026-Fall'에서 '엔터프라이즈 AI 혁신을 위한 SUSE AI 구축 및 활용 전략-SUSE AI Factory'를 주제로 발표했다. 이번 행사는 'AI Agent에서 Agentic Enterprise까지'를 주제로 AI 에이전트를 실제 기업 데이터와 시스템, 업무 프로세스에 연결하기 위한 실행 체계를 집중 조명했다.
최 부장은 기업의 AI 활용이 이제 'AI tinkering', 즉 개별 실험 단계에서 'AI Factory'로 넘어가야 한다고 강조했다. 생성형 AI 모델을 시험하고 개별 PoC를 만드는 것과 기업 전체가 반복적으로 AI 서비스를 개발·배포·운영하는 것은 전혀 다른 문제라는 설명이다.
기업이 실제 AI 운영 단계로 넘어가면 인프라 복잡성, 보안과 규제 준수, 데이터 주권, GPU 자원 운영, 비용 예측, 모델과 애플리케이션의 수명주기 관리 등 새로운 과제가 등장한다. 특히 현업이 공식 IT 통제를 벗어나 외부 AI 서비스를 사용하는 '섀도 AI'는 기업 데이터와 지적재산권 유출 가능성을 높이고, 공개 AI API의 종량제 비용 역시 대규모 운영 단계에서 부담이 될 수 있다고 지적했다.
수세가 제시한 해법은 AI를 위한 인프라와, AI를 활용하는 인프라를 함께 설계하는 것이다. 먼저 'AI for Infrastructure' 측면에서는 AI 에이전트가 MCP를 통해 기업 인프라와 상호작용하고, 운영 효율화와 예측 유지보수, 자원 최적화 등에 활용되는 방향을 제시했다. AI가 인프라 운영을 보조하거나 자동화함으로써 관리 부담과 비용을 낮추고 새로운 서비스 제공 속도를 높이는 구조다.
반대편에는 'Infrastructure for AI'가 있다. 기업의 AI 워크로드를 안전하게 운영하기 위해 기존 리눅스와 쿠버네티스 환경 위에 AI 애플리케이션의 배포, 수명주기 관리, 거버넌스와 하드웨어 가속기를 통합하는 인프라를 구축하는 것이다. 이 두 흐름을 실제 제품으로 구체화한 것이 'SUSE AI Factory'다.
SUSE AI Factory는 리눅스와 쿠버네티스 기반 인프라 위에서 AI 애플리케이션과 모델, GPU 자원, 보안·관측성, 수명주기를 통합 관리하는 프라이빗 엔터프라이즈 AI 플랫폼이다. NVIDIA AI Enterprise를 결합한 SUSE AI Factory with NVIDIA를 통해 AI 워크로드를 PoC에서 기업 운영 환경으로 확장할 수 있도록 지원한다.
SUSE AI Factory는 SUSE Rancher Prime과 SUSE Linux Enterprise Server를 기반으로 AI 워크로드의 배포와 운영을 표준화하고, 보안·관측성·레지스트리 등 운영에 필요한 기능을 하나의 체계로 연결한다. NVIDIA와 결합한 'SUSE AI Factory with NVIDIA'는 NVIDIA AI Enterprise를 이 구조 안에 통합해 GPU 가속 기반의 엔터프라이즈 AI 환경을 제공한다.
수세는 이를 단순한 AI 인프라 묶음이 아니라 AI를 반복적으로 생산하고 운영하기 위한 디지털 조립라인에 가깝게 설명한다. 공식 제품 역시 UI 기반 운영과 대규모 GitOps 배포를 함께 지원하고, NVIDIA AI Enterprise를 하나의 관리 체계에서 운용할 수 있도록 설계됐다.
특히 PoC와 실제 운영 환경 사이의 간극을 줄이는 데 초점을 맞췄다. 생성형 AI와 추론, RAG, 컴퓨터 비전, MLOps 등 워크로드별로 필요한 오픈소스와 상용 구성요소를 통합하고, 기업은 필요한 부분만 선택해 조합할 수 있다. 특정 벤더에 종속되지 않는 유연성을 유지하면서 분산된 도구와 유지보수 부담을 줄이고 표준화된 운영 환경을 확보한다는 전략이다.
AI 운영 환경의 확장성도 주요 특징이다. 개발자의 워크스테이션에서 데이터센터, 클라우드, 지점과 엣지까지 동일한 실행 환경을 확장하고, 빠른 PoC에는 웹 기반 인터페이스를, 대규모 운영에는 GitOps 기반의 선언형 자동화를 활용할 수 있다. AI 워크로드뿐 아니라 쿠버네티스, 운영체제, GPU 드라이버까지 전체 기술 스택의 수명주기를 표준화해 관리한다.
GPU와 인프라 효율화도 강조됐다. NVIDIA MIG·vGPU 등을 활용해 GPU를 논리적 자원으로 분할하고 조직과 워크로드별로 격리·공유하며, AI 처리량과 애플리케이션, 클러스터 상태를 실시간으로 관측해 유휴 자원과 병목 구간을 파악한다. 이를 통해 고가의 GPU 자원을 보다 효율적으로 활용할 수 있다는 설명이다.
또한 수세는 사전 검증된 블루프린트를 활용해 기업이 AI 환경을 처음부터 일일이 조합하는 부담을 줄이는 전략을 제시했다. 기업은 검증된 구성을 그대로 배포하거나 필요에 따라 수정할 수 있고, 자체 AI 라이브러리를 조합해 새로운 워크로드를 구성할 수도 있다. SUSE AI Factory 공식 제품 역시 버전 관리가 가능한 블루프린트를 중심으로 AI 애플리케이션을 반복 배포·운영하는 구조를 채택하고 있다.
엔터프라이즈 AI에서 더욱 중요한 것은 데이터와 AI에 대한 기업의 통제권이다. 수세는 SUSE AI Factory를 통해 외부 공개 AI 서비스 사용에 따른 기업 정보 유출 위험을 줄이고, 데이터의 저장·처리 위치와 접근 권한을 기업이 직접 통제할 수 있는 프라이빗 AI 환경을 제공한다. 관측성과 제로 트러스트 기반 보안 기능을 결합해 데이터 주권과 규제 준수를 지원한다.
최 부장은 직원들이 외부 공개 AI 모델에 기업 정보를 입력하면서 발생할 수 있는 섀도 AI 위험을 줄이고, 기업 내부에 안전한 AI 환경을 제공하는 것이 중요하다고 강조했다. 데이터의 출처와 처리 위치를 통제해 국가별 규제 요구사항에 대응하고, 제로 트러스트 보안과 관측성을 통해 중요 데이터와 AI 워크로드를 보호하는 구조다.
이는 최근 엔터프라이즈 AI 시장에서 중요성이 커지는 '소버린 AI'와도 맞닿아 있다. SUSE AI Factory with NVIDIA는 기업 데이터와 모델, 워크플로와 지적재산을 기업 내부 인프라에 유지하면서 규제 산업에서도 AI를 활용할 수 있도록 하는 것을 주요 제품 가치로 내세우고 있다.
AI 비용의 예측 가능성 역시 프라이빗 AI의 중요한 장점으로 제시됐다. 공개 API의 사용량 기반 비용 의존도를 낮추고 기업이 보유한 GPU와 가속기의 활용도를 높여, AI 서비스가 확대될수록 급격하게 증가할 수 있는 운영비를 보다 예측 가능한 구조로 전환하는 것이다.
결국 수세가 이번 발표에서 제시한 'AI Factory'의 의미는 새로운 AI 모델 하나를 더 제공하는 것이 아니다. 기업이 AI를 일회성 프로젝트가 아니라 반복적으로 만들고 배포하고 관리할 수 있는 생산체계로 전환하는 것에 가깝다.
수세는 리눅스와 쿠버네티스, Rancher를 중심으로 축적해 온 오픈 인프라 기술을 기반으로 AI 워크로드의 개발·배포·보안·거버넌스·GPU 운영까지 통합하는 방향으로 사업 영역을 확대하고 있다. 수세 역시 최근 공식적으로 SUSE AI Factory를 AI 실험을 안전하고 반복 가능한 엔터프라이즈 운영체계로 전환하기 위한 플랫폼으로 포지셔닝하고 있다.
AI 에이전트와 생성형 AI의 활용 범위가 빠르게 확대될수록 기업이 직면하는 과제는 “어떤 AI를 사용할 것인가”에서 “AI를 어디에서, 어떤 통제 아래, 얼마나 안정적이고 경제적으로 운영할 것인가”로 옮겨가고 있다. 이번 발표에서 수세코리아가 강조한 SUSE AI Factory는 바로 이 운영 단계의 문제를 해결해 기업의 AI 실험을 실제 비즈니스 인프라로 전환하려는 전략이다.
임민지 기자 minzi56@etnews.com