인공지능(AI) 에이전트가 기업 업무 전반으로 확산되는 가운데, 사람의 승인과 보고를 전제로 설계된 기존 거버넌스 체계가 AI 활용의 병목으로 작용할 수 있다는 지적이 나왔다. 초 단위로 판단하고 실행하는 AI 에이전트의 속도를 회의와 결재, 정기 검토 중심의 조직 운영 방식이 따라가지 못한다는 것이다.
가트너는 최근 '아무도 인정하고 싶어 하지 않는 AI 병목: 루프 안의 인간(The AI Bottleneck No One Wants to Admit: Humans in the Loop)' 보고서를 통해 AI 에이전트 중심 업무 환경에서는 기업 프로세스와 통제 체계를 근본적으로 재설계해야 한다고 진단했다.
가트너는 AI 에이전트가 인간과 달리 전통적인 작업 주기나 업무시간에 제약받지 않고 지속적으로 작동할 수 있다고 분석했다. AI 네이티브 프로세스가 표준으로 자리 잡으면서 기업 전반의 업무 방식에 대한 근본적인 재검토가 요구된다는 설명이다.
기존 기업 프로세스는 사람이 확인하고 승인하는 흐름을 기본으로 한다. 이에 따라 AI가 처리할 수 있는 업무라도 의사결정과 승인 과정에서 사람의 판단을 기다리면 처리 속도가 늦어질 수 있다는 지적이다.
가트너는 AI 에이전트 시대의 핵심 과제가 인간을 업무에서 배제하는 것이 아니라, 위험을 통제하면서 자동화 범위를 확대하는 '제한된 자율성' 구현이라고 봤다. 에이전트가 단독으로 처리할 수 있는 업무와 사람의 검토가 필요한 영역을 구분하는 것이 중요하다고 강조했다.
가트너는 거버넌스 역시 인간 중심의 확인 절차에서 벗어나야 한다고 제언했다. 업무 흐름 안에서 자동으로 집행되는 실행 가능한 가드레일로 진화해야 하며 인간은 예외 처리와 책임성 확보에 집중해야 한다는 것이다. 이를 위해 기존 문서·회의 중심의 거버넌스를 실제 업무 흐름에서 자동 실행되는 '코드 기반 거버넌스'로 전환해야 한다고 설명했다.
기업 아키텍처(EA) 조직의 역할 변화도 강조했다. 가트너는 기존 EA 프로세스가 △코드 기반 거버넌스 △에이전트의 자동 예외 처리와 필요시 인간 대상 보고 △실시간 동적 아키텍처 등으로 전환돼야 한다고 제시했다.
다만 가트너는 AI 에이전트가 부적절하게 설계된 업무 프로세스까지 빠르게 최적화할 수 있다는 점을 위험 요소로 지목했다. 통제가 미흡한 상태에서 자동화만 확대하면 비효율적이거나 잘못된 의사결정이 반복될 수 있기 때문이다.
이에 가트너는 AI가 IT 부서 밖에서도 빠르게 도입되는 상황에서 '만든 팀이 책임지는' 구조가 필요하다고 강조했다.
가트너는 에이전트 기반 프로세스를 설계한 조직이 해당 에이전트의 행동과 결과에 대한 책임을 명확히 져야 한다고 설명했다.
강성전 기자 castlekang@etnews.com
