네트워크 보안 기업 A10 네트웍스는 기업의 AI 활용을 중앙에서 관리할 수 있는 지능형 제어 플랫폼 'A10 AI 게이트웨이(A10 AI Gateway)'를 출시했다고 22일 밝혔다.
A10 AI 게이트웨이는 기업이 사용하는 AI 에이전트와 애플리케이션, 대규모언어모델(LLM)을 하나의 플랫폼에서 관리할 수 있도록 설계됐다. 사용자·그룹별 AI 접근 제어를 비롯해 지능형 라우팅(Smart Routing), AI 트래픽·비용 관리, 보안 포트폴리오 연계, 거버넌스 등의 기능을 제공한다. 기업은 이를 통해 AI 사용 현황을 파악하고 비용을 최적화하는 동시에 접근 제어와 보안을 강화할 수 있다.
최근 기업들이 AI 에이전트와 생성형 AI를 업무 애플리케이션에 빠르게 도입하면서 AI 운영 환경도 복잡해지고 있다. 여러 AI 공급업체와 모델을 동시에 활용하는 사례가 늘면서 어떤 모델을 사용하고 있는지, 비용이 얼마나 발생하는지, 적절한 보안·거버넌스 체계를 갖추고 있는지 통합적으로 파악해야 할 필요성도 커지고 있다.
특히 AI 요청은 단순 처리부터 고도의 추론이 필요한 작업까지 다양하다. 이에 기업에서는 요청 특성에 따라 적합한 모델을 선택해 성능과 비용을 최적화하고, 보안 운영과 거버넌스를 함께 관리할 수 있는 통합 플랫폼에 대한 요구가 높아지고 있다.
A10 AI 게이트웨이는 각 요청의 콘텐츠와 사용자 정책을 분석해 적합한 AI 모델을 선택하고 연결한다. 단순한 작업은 비용 효율적인 모델로, 높은 수준의 추론이 필요한 작업은 고성능 모델로 자동 라우팅해 AI 활용 효율성을 높인다.
사용자와 그룹별 접근 제어 기능도 제공한다. 기존 로컬 디렉터리 시스템과 연동해 사용자 또는 그룹별로 AI 접근 권한과 라우팅 정책을 설정할 수 있다. 예를 들어 엔지니어링팀과 재무팀에 서로 다른 AI 모델과 사용 정책을 적용하는 방식이다.
AI 사용량과 비용도 중앙에서 관리할 수 있다. 요청 단위의 실시간 비용을 추적하고 모델·팀별 토큰 예산을 설정할 수 있으며, 사용 한도와 한도 초과 전 알림 기능을 지원한다. 키 또는 팀별 분당 토큰 수(TPM), 분당 요청 수(RPM) 등도 제어할 수 있어 조직 차원의 AI 비용 관리와 거버넌스 구축을 지원한다.
A10의 기존 AI 보안 솔루션과도 연계된다. AI 개발·운영 단계의 보안을 담당하는 'TrojAI', AI·LLM 특화 위협을 차단하는 'A10 AI 방화벽', 웹 애플리케이션과 API를 보호하는 'ThreatX' 등과 결합해 AI 모델의 배포 전 테스트부터 런타임 보호, 네트워크·API 계층 보안까지 AI 전 생애주기에 걸친 보안 체계를 제공한다.
배포 환경의 유연성도 강화했다. 독립형 소프트웨어 또는 통합 하드웨어 형태로 제공되며 온프레미스, 프라이빗 클라우드, 망분리 환경 등 기업 자체 인프라에서 운영할 수 있다. 기업이 AI 모델과 데이터, 정책에 대한 통제권을 유지하면서 데이터 주권을 확보할 수 있도록 지원한다.
드루파드 트리베디(Dhrupad Trivedi) A10 네트웍스 사장 겸 CEO는 “기업들은 AI를 빠르게 도입하는 동시에 AI 운영에 대한 통제력을 유지해야 하는 상황에 놓여 있다”며 “AI 활용이 빠르게 확산되면서 비용이 증가하고 AI 사용 규칙을 설정할 수 있는 중앙화된 관리 지점의 필요성도 커지고 있다”고 말했다.
이어 “A10 AI 게이트웨이는 AI가 어떻게 사용되고 있는지 확인하고 누가 어떤 모델에 접근할 수 있는지 관리하며, 각각의 요청을 적절한 비용으로 가장 적합한 AI 모델에 연결할 수 있는 하나의 지능형 제어 평면을 제공한다”며 “기업이 대규모로 AI를 활용하면서도 데이터와 운영에 대한 통제권을 유지할 수 있도록 지원할 것”이라고 말했다.
임민지 기자 minzi56@etnews.com