인공지능(AI) 에이전트 확산으로 기업 AI 전환(AX) 전략에서 '토큰 거버넌스'가 핵심 화두로 떠올랐다. 기업의 토큰 사용량이 급격히 늘면서 토큰이 단순 비용을 넘어 업무 생산성·투자수익률(ROI)을 좌우하는 전략 자본으로 진화하면서 이를 관리하는 역량도 중요해졌다는 진단이다.
김지현 SK수펙스 AI위원회 부사장은 18일 서울 삼성동 웨스틴 서울 파르나스에서 열린 'CAIO 포럼' 2차 세미나에서 “기업 AX 추진 과정에서 가장 중요한 경영 화두는 토큰 비용을 어떻게 줄일 것인가”라면서 “모델 성능을 키우는 것보다 중요한 건 토큰 최적화 등 운영 전략”이라고 강조했다.
김 부사장은 “기존 기업용 소프트웨어와 클라우드 서비스는 비교적 쉽게 연간 비용을 예측할 수 있지만 AI는 사용한 만큼 비용을 지불하는 종량제 구조가 일반적이기 때문에 비용을 예측하기 어렵다”면서 “성과 창출이 중요한 업무에는 토큰을 충분히 활용하도록 장려하는 동시에 불필요한 업무에 과도하게 사용되는 것은 통제해야 한다”고 말했다.
그는 기업이 주목해야 할 지표로 'TOI(Token on Investment)' 개념을 제시하면서 “기업 AX 지표를 몇 명이 생성형 AI를 쓰고 몇 시간 사용하는지와 같은 트래픽 관점으로 관리할 게 아니다”라며 “부서·직원별 토큰 사용과 성과를 추적해 비용을 최적화하는 구조를 설계해야 한다”고 제언했다.
지용구 더존비즈온 공동대표는 개인이 체감하는 AI의 높은 효용을 어떻게 조직 전체의 생산성으로 전환할 것인가를 기업 AX의 핵심 과제로 꼽았다.
지 대표는 “AX는 DX와 다르다”며 “DX는 조직이 시스템을 도입하고 개인이 따라가는 방식이었다면 AI는 개인의 경험이 풍부해 저항이 비교적 크다”고 말했다. 기업 AX 혁신을 위해 개인의 AI 경험을 조직 차원으로 확장하는 과정이 필요하다는 진단이다.
AI 리더십의 중요성도 강조했다. 지 대표는 AI를 적극적으로 활용하는 기업의 특징으로 CEO의 역할 변화를 꼽으며 “AI를 잘 쓰는 기업에서는 최고경영자(CEO)가 부문별최고책임자(CXO)처럼 일한다”고 말했다. AI를 통해 부족한 도메인 지식을 보완하고 정보 접근성을 높이면서 AI와 협업하는 경영 방식이 확산하고 있다는 설명이다.
최고AI책임자(CAIO)에게는 장기적인 AX 전략과 단기 성과를 동시에 관리하는 역할이 요구된다고 봤다. 지 대표는 “CAIO는 5년 후를 내다보고 미래를 계획하는 동시에 당장의 성과도 만들어야 한다”며 “AX 시대에는 둘 중 하나를 선택하는 것이 아니라 두 과제를 함께 추진해야 한다”고 강조했다.
'CAIO 포럼'은 전자신문이 지난 5월 출범한 공공·민간 AI 책임자들의 교류 플랫폼이다. 국가 AI 정책을 담당하는 정부부처와 공공기관을 비롯해 금융·통신·제조·유통·의료·IT·건설 등 주요 산업을 대표하는 기업의 AI 책임자 28명이 창립회원으로 시작했다. 서로 다른 산업의 CAIO가 기업과 조직의 경계를 넘어 AX 경험과 고민을 공유하고 공동의 해법을 모색하는 것이 목표다.
두 번째 정례 모임인 2차 세미나에서는 정부부처와 공공기관, 금융·제조·유통·IT 등 다양한 분야의 AI 책임자들이 참석해 AX 전략과 실행 방안을 공유했다.
강병준 전자신문 대표는 “CAIO 포럼을 발족한 배경에는 공공과 민간이 함께 교류하고 만날 수 있는 자리가 필요하다는 판단이 있었다”며 “이번 2차 포럼을 통해 성과를 이어가고 앞으로도 지속적으로 모임을 가져갈 계획”이라고 말했다.
전자신문은 연말 CAIO 포럼의 세 번째 모임을 열고 올해 활동을 돌아보는 한편 내년 포럼 운영 방향 등을 논의할 예정이다.
조벼리 기자 starry@etnews.com, 정현정 기자 iam@etnews.com
