“최근 일탈 등 상황을 볼 때 기업용 인공지능(AI) 에이전트는 상당한 피해를 일으킬 가능성이 있습니다. 이론적 위협이 아닌 실제 위험인 만큼 통제장치 확보가 시급합니다.”
게이브 몬로이 워크데이 최고기술책임자(CTO)는 지난 14일(현지시간)부터 미국 라스베이거스에서 열린 '라이징 2026' 기간 전자신문과 인터뷰에서 “AI 도입과 성능 고도화에 앞서 기업 업무 규칙과 접근 권한을 준수하도록 설계하고, 개발단계부터 안전성에 대한 책임을 명확히 해야 한다”며 이같이 말했다.
최근 기업 내 AI 에이전트 도입 확산 상황을 고려, 안전한 운영을 위한 가드레일(안전장치) 구축이 핵심 과제라는 것을 재확인한 것이다. 차세대 프런티어 모델의 지속적인 개발 여부와 별개로 이미 위험성이 있는 만큼 통제 거버넌스 확립을 주문한 것으로 풀이된다.
몬로이 CTO는 기업 통제체계를 벗어나 작동하는 AI를 '무법 에이전트(Lawless Agents)'로 규정하고 우려했다. AI가 광범위한 데이터 접근 권한을 갖고 자율로 업무를 수행하는 과정에서 기존 보안·통제 체계가 무력화될 수 있다는 것이다.
무법 에이전트 관련 해법으로 기업 업무 규칙과 접근 권한을 반영한 가드레일 구축, 개발 조직 책임성 강화, 체계적인 안전성 검증을 제안했다.
몬로이 CTO는 “워크데이는 AI 에이전트를 개발하는 팀이 안전성과 성능에 책임을 지도록 한다”며 “모델 추론 능력과 실제 업무 맥락, 이를 통제하는 가드레일을 가장 잘 이해하고 있기 때문”이라고 설명했다.
워크데이는 실제 온·오프라인 평가를 통해 AI 에이전트의 작동과 성능을 지속 검증한다. 신규 AI 모델의 출시 전 안전성 검증에도 참여하고 있다.
몬로이 CTO는 기업용 AI는 모델 성능뿐 아니라 응답속도와 업무 적합성이 중요하다고 진단했다. 거대 프런티어 모델 응답 속도가 상대적으로 느린 점을 고려, 목표 성능을 충족하는 경량·특화 모델을 대안으로 제시했다.
워크데이 역시 단일 모델에 종속되지 않고 프런티어 모델과 오픈웨이트 모델을 취사 선택하고 있다. 새로운 모델을 신속하게 통합할 수 있는 동시에 성능과 비용 효율성을 확보하려는 전략이다.
몬로이 CTO는 “급여명세서를 요청하는 단순 업무에 60초를 기다리고 싶지 않을 것”이라며 “첫 토큰 응답시간이 2~3초 수준이어야 한다”고 지적했다.
워크데이는 고객사의 원활한 AI 도입을 위해 고객사 업무 환경에 맞춰 AI 솔루션 적용과 구현을 돕는 전방배치 엔지니어(FDE)를 투입하고 있다. 기업 내 실행력과 역량 강화, 조직 전환 실현을 지원하는 차원이다.
몬로이 CTO는 “기업에서 AI 도입으로 실질적 성과를 얻으려면 최고경영자(CEO) 등 경영진부터 실무 조직까지 전사적 지원과 추진 의지를 가져야 한다”고 조언했다.
한편 미국 빅테크 기업을 중심으로 제기된 AI 개발 속도조절론에 대해서는 신중한 입장을 나타냈다.
몬로이 CTO는 “프런티어 AI 개방기업들이 최첨단 모델의 위험성을 논의하는 것은 중요하다”면서도 “지금 존재하는 AI를 효과적으로 통제하는지, 관리할 수 있는지가 먼저”라고 강조했다.
라스베이거스=
박종진 기자 truth@etnews.com
