기업에 이어 대학에서도 생성형 인공지능(AI) 활용이 빠르게 확산하면서 학내 '토큰 비용' 관리가 새로운 과제로 떠올랐다. 해외 거대언어모델(LLM) 기반 AI 사용 확대로 토큰 비용이 해외 사업자에게 지급되는 지식서비스 무역수지 불균형 문제도 우려되는 상황이다.
대학의 AI 도입을 확대하되 단순 검색까지 고성능 외산 LLM에 의존하는 이용행태를 바꾸는 등 비용 효율적인 AI 활용 체계가 필요하다는 목소리가 나오고 있다.
20일 대학가에 따르면 서울대는 최근 재학생과 교직원 등을 대상으로 도입한 '챗GPT 에듀'에 대해 개인별 사용 한도를 설정했다. 교육·연구·행정 전 영역에 AI 활용을 확대해 'AI 네이티브 캠퍼스'로 전환한다는 목표였지만, 사용량이 빠르게 증가하면서 토큰 비용 지출도 크게 늘어났기 때문이다.
챗GPT 에듀 도입 직후 한 달여간 서울대에서 집계된 사용량은 6200만크레딧으로 학교가 마련한 연간 예산 31억원을 초과하는 규모다. 연간 사용량을 한 달 사이 다 쓴 셈이다.
다른 대학도 같은 문제를 고민 중이다. 전남대는 여러 생성형 AI 모델을 구성원이 이용할 수 있도록 서비스를 제공하면서도 개인별 크레딧 한도를 적용하고 있다. 충남대 역시 지난 3월 57종의 LLM을 이용할 수 있는 서비스를 도입했으나 구성원 한 명당 매월 5000크레딧을 지급하는 방식으로 사용량을 관리하고 있다.
교육계는 대학에서 빠르게 늘어나는 AI 사용량이 토큰 비용 지불에 따른 국내 자본의 해외 유출, 이른바 'AI 무역수지' 이슈를 키울 수 있다고 우려한다. 현재 사용되는 AI 서비스 다수가 글로벌 빅테크의 서비스인 만큼 지식서비스 무역수지에 부정적인 요인으로 작용할 수 있다는 지적이다.
정보통신정책연구원(KISDI)이 발간한 'AI 에이전트 시대의 국가전략' 보고서는 한국의 높은 AI 활용률과 낮은 자국 서비스 경쟁력 간 비대칭을 지적했다. 보고서는 2025년 우리나라 지식서비스 무역수지 적자는 102억5000만달러로 전년보다 약 39% 악화했다고 진단했다. 한국은행은 적자 원인 가운데 하나로 'AI 구독'을 명시했다. 외산 AI 활용도가 높아질수록 국민의 일상적 판단과 데이터까지 외국 기업 인프라에 의존할 수 있다는 문제도 제기된다.
아울러 작업 수행 단계에 AI 에이전트를 활용하는 사례 역시 토큰 비용 부담을 키울 수 있다. 사용자가 한 번 질문하고 답을 받는 것을 넘어 AI가 여러 단계의 작업을 스스로 수행하면서 필요한 추론량과 토큰 사용량도 증가하기 때문이다.
AI 전문가들은 앞으로 업무 특성에 맞춰 국산·외산 모델을 배분하고, 전체 토큰 사용량까지 최적화하는 '모델 오케스트레이션' 체계가 중요해질 것으로 보고 있다.
이승현 가천대 스타트업칼리지 겸임교수는 “단일 모델을 도입하기보다 멀티모델을 도입해 어떻게 최적화할 것인지를 봐야 한다”며 “대학도 이를 고려해 전략을 짤 필요가 있다”고 말했다.
손지혜 기자 jh@etnews.com
