전자신문인터넷이 10월 23일 서울 서초구 엘타워에서 개최한 국내 대표 엔터프라이즈 업무 자동화 콘퍼런스 'AX & 하이퍼오토메이션 코리아 2026-Fall'에서 아이티센클로잇이 기업용 AI 에이전트를 안전하게 개발·운영하기 위한 멀티 에이전트 관리 플랫폼 전략을 공개했다. 강기식 아이티센클로잇 전무는 'Agentic AI 플랫폼의 시대, 기업은 왜 AgentGo를 선택해야 하는가'를 주제로 발표하며 “AI에 일을 맡기려면 먼저 신뢰를 설계해야 한다”고 강조했다.
강기식 전무의 발표는 “이력서를 검토해 달라”는 하나의 지시에서 출발했다. 기존 챗봇은 이력서를 요약하는 데 그치지만, AI 에이전트는 채용 공고와 지원자의 이력을 비교해 장단점을 평가하고, 추가 확인 사항과 다음 단계를 제안한 뒤 사람에게 승인을 요청할 수 있다. 그는 AI 활용이 질문에 답하는 단계를 넘어 업무를 위임받아 수행하는 단계로 이동하고 있다고 설명했다.
기업용 소프트웨어와 의사결정 과정에 AI 에이전트가 빠르게 확산될 것이라는 전망도 소개했다. 발표에서 인용한 가트너 전망에 따르면 2028년에는 기업용 소프트웨어의 33%가 에이전틱 AI를 포함하고, 일상적인 업무 의사결정의 15%를 AI 에이전트가 스스로 수행할 것으로 예상된다.
그러나 도입 확대가 곧바로 기업 성과로 이어지는 것은 아니라는 진단이다. 비용 증가와 불분명한 비즈니스 가치, 부족한 리스크 통제로 인해 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 취소될 수 있다는 전망도 함께 제시됐다. 단순 챗봇이나 기존 자동화 기능을 에이전틱 AI로 포장하는 '에이전트 워싱'에 대해서도 주의를 당부했다.
강 전무는 기업이 AI에 업무를 맡기지 못하는 이유를 데이터, 통제, 사람이라는 세 가지 축으로 정리했다. 임직원이 고객 명단이나 회사 기밀을 외부 AI에 입력하면 내부 데이터가 조직 밖으로 유출될 수 있다. 회의록만 정리하면 되는 에이전트에 인사 시스템의 삭제 권한까지 부여되는 등 과도한 권한도 문제가 된다. 퇴사자가 만든 에이전트가 관리 주체 없이 계속 재무 데이터에 접근하는 '에이전트 스프롤' 역시 기업이 대비해야 할 위험으로 제시됐다.
아이티센클로잇은 이를 해결하려면 AI 에이전트가 데이터가 있는 곳에서 실행되고, 권한과 행동을 지속적으로 통제하며, 검증된 에이전트만 업무에 투입하는 운영 체계가 필요하다고 강조했다. 온프레미스와 클라우드 등 기업 환경에 맞춰 배치할 수 있어야 하며, 권한 관리와 모니터링, 가드레일, 비용 통제, 개발·검증 이력을 하나의 플랫폼에서 관리해야 한다는 설명이다.
이 같은 요구를 반영한 해법이 멀티 에이전트 관리 플랫폼 'AgentGo'다. AgentGo는 인프라 종속성 없이 데이터가 위치한 환경에 설치할 수 있는 'Platform', 권한과 실행 기록을 관리하는 'Management', 오용과 정보 유출을 막고 개인정보를 비식별화하는 'Guard'로 구성된다. 자연어로 에이전트를 개발하는 'Coder', 정해진 업무 흐름에 따라 에이전트를 설계·실행하는 'Flow', 검증을 통과한 에이전트를 공유·활용하는 'Marketplace'도 제공한다.
AgentGo는 개별 에이전트를 만드는 개발 도구에 머물지 않고 개발, 검증, 배포, 권한 관리, 실행 모니터링을 하나의 운영 체계로 묶는 데 초점을 맞췄다. 현업 사용자가 필요한 에이전트를 빠르게 구현하는 동시에, 기업의 IT·보안 조직은 배치 환경과 접근 권한, 실행 이력, 정보 보호 정책을 일관되게 관리할 수 있다는 점이 특징이다.
발표에서는 이력서 검토 업무를 AgentGo에 맡기는 시연도 진행됐다. 시연의 초점은 에이전트의 기능 자체보다 통제 과정에 맞춰졌다. 최종 결과를 처리하기 전 사람이 개입해 승인하고, 어떤 사용자가 어떤 에이전트로 무엇을 수행했는지 기록을 남기며, 지원자의 전화번호와 같은 개인정보는 자동으로 가리는 방식이다. 이를 통해 휴먼 인 더 루프(HITL), 감사 추적, 개인정보 보호가 실제 업무 흐름 안에서 어떻게 구현되는지를 보여줬다.
아이티센클로잇은 사람과 AI 에이전트의 역할도 명확히 구분했다. 사람은 업무의 목표와 우선순위를 정하고 중요한 의사결정을 최종 승인한다. AI 에이전트는 정보 수집과 반복 처리, 시스템 입력을 수행한다. AgentGo는 양쪽 사이에서 권한 관리와 오남용 방지, 정보 보호, 실행 모니터링을 담당한다. 현업 사용자는 Coder와 Flow를 활용해 에이전트를 만들고, 표준 템플릿과 자동 검증, 테스트 환경인 Playground를 거쳐 검증된 에이전트만 Marketplace에 등록하는 구조다.
강 전무는 기업이 에이전트를 도입하기 전에 △회사 데이터가 외부로 유출되지 않는지 △에이전트의 권한 범위가 명확한지 △수행한 업무를 기록하고 추적할 수 있는지 △중요한 결정 전에 사람이 개입할 수 있는지 △누가 만들었으며 충분한 검증을 거쳤는지를 확인해야 한다고 제언했다.
아이티센클로잇은 AgentGo를 전사 차원의 AI 에이전트 운영 표준과 거버넌스 플랫폼으로 확장한다는 전략이다. 강기식 전무는 AI 에이전트가 실제 업무를 수행할수록 성능뿐 아니라 권한·보안·검증·사람의 승인 체계를 함께 설계해야 한다며 “AI는 계속 변화한다. 변화에 대한 수용과 통제가 동시에 필요하다”고 강조했다.
임민지 기자 minzi56@etnews.com