전 세계 기업 절반 이상이 인공지능(AI) 사용량 증가에 따른 비용을 통제하지 못하는 것으로 나타났다. AI 에이전트 도입이 확대되고 있지만 성능과 비용을 관리하는 체계는 충분히 갖춰지지 않았다는 분석이다.
시스코는 이 같은 내용이 담긴 '2026 스플렁크 옵저버빌리티 현황 보고서'를 21일 공개했다. 이번 보고서 조사는 전 세계 10개국 IT 운영 및 엔지니어링 전문가 2050명을 대상으로 이뤄졌다.
보고서에 따르면 조사 응답자 55%는 AI 사용량을 예측하기 어려워 관련 비용을 정확하게 통제하지 못한다고 답했다. 60%는 높은 기본 운영 비용보다 예상치 못한 비용 급증이 더 큰 부담이라고 응답했다. 모니터링 데이터인 텔레메트리 비용이 모니터링 대상 인프라 비용을 초과했다는 응답도 57%에 달했다.
이는 기업이 여러 AI 모델과 에이전트를 동시에 운영하면서 사용량과 비용 구조가 복잡해진 데 따른 것으로 분석된다. AI 활용으로 처리해야 할 데이터까지 증가하면서 어떤 서비스에서 비용이 발생하는지 파악하고 향후 지출을 예측하는 데 어려움이 커지고 있다는 설명이다.
AI 에이전트 성능 관리에도 한계가 확인됐다. 응답자 87%는 AI 모니터링을 조직의 우선순위로 꼽았지만, 54%는 명확한 비즈니스 성과 목표를 수립하지 못했다. 56%는 대규모언어모델(LLM)의 응답 품질 등 핵심 지표를 측정하는 데 어려움을 겪었다. AI 환각 현상을 효과적으로 모니터링하고 있다는 응답은 58%에 그쳤다.
기존 애플리케이션과 달리 AI 에이전트는 자율적으로 판단하고 작업을 수행하기 때문에 단순한 시스템 작동 여부만으로 성능을 평가하기 어렵다. 시스코는 AI 에이전트의 의사결정 과정과 실제 업무 성과를 함께 분석할 수 있는 새로운 모니터링 지표가 필요하다고 설명했다.
AI 도입을 계기로 운영 조직과 보안 조직 간 협업은 확대됐다. 응답자의 81%는 AI 워크로드 모니터링 이후 두 조직의 협업이 증가했다고 답했다. 보안팀과 협력해 문제를 진단·해결한다는 응답은 지난해 62%에서 올해 77%로 높아졌다. 데이터 공유 비율도 같은 기간 74%에서 84%로 상승했다.
기업 간 관리 역량 차이도 나타났다. 옵저버빌리티 선도 기업의 91%는 AI 에이전트와 모델별 비용 발생 현황을 정확히 파악한다고 답했다. 비선도 기업은 69%였다. 옵저버빌리티를 통해 연간 500만달러 이상의 매출을 창출했다는 응답도 선도 기업 54%, 비선도 기업 28%로 차이를 보였다.
시스코는 AI 에이전트의 안정적인 운영을 위해 성능과 비용, 보안 데이터를 통합적으로 분석하는 관리체계가 필요하다고 분석했다. AI 에이전트별 사용량과 비용을 추적하고 실제 사업 성과와 비교해야 예기치 못한 지출을 줄이고 운영 효율을 높일 수 있다는 설명이다.
지투 파텔 시스코 사장 겸 최고제품책임자(CPO)는 “AI 에이전트를 대규모로 관리하기 위해서는 보안과 옵저버빌리티에 대한 접근 방식을 새롭게 정립해야 한다”며 “문제를 실시간으로 탐지하고 대응할 수 있는 공통 데이터 플랫폼이 중요하다”고 말했다.
남궁경 기자 nkk@etnews.com
