공공기관 인공지능 전환(AX)이 경영평가 항목으로 반영되면서 기관마다 AX에 대한 관심이 커지고 있는 가운데, 온프레미스형 생성형 AI 업무지원 시스템을 자체 구축·운영한 한국과학기술기획평가원(KISTEP)의 사례가 벤치마킹 모델로 주목받고 있다.
김은정 KISTEP 정보화지원실 연구위원은 12일 잠실 한국광고문화회관에서 열리는 '공공 부문 인공지능 전환(AIX) 성공을 위한 실무 세미나'에 앞서 가진 인터뷰에서 AI 업무 지원시스템 개발 및 운영을 통해 얻은 현장 경험과 핵심 인사이트를 공유했다.
이번 세미나 발표에 나서는 김은정 연구위원은 KISTEP AI 전환 총괄 팀장으로서 AI 업무지원 시스템 'KISTEP-GEN'의 개발부터 지난해(2025년) 2월 공식 오픈까지 전 과정을 이끈 AI 전문가다.
김은정 연구위원은 우선 공공기관 AX 관련 주요 트렌드로 세 가지를 꼽았다. 첫째는 AX가 공공기관 경영평가에 반영된다는 것이다. 이에 공공기관은 이제 '모두의 AI'라는 국정과제 실현에 최선두에 서서 AX를 실행해야 하는 과제를 안게 됐다.
둘째는 AI 기술 진보 속도에 대한 대응이다. 매일 새롭고 더 강력한 모델, 에이전트, 프레임워크가 쏟아지는 상황에서 조금만 방심해도 기술 트렌드를 따라가기 어렵게 됐다. 김 연구위원은 “각 기관의 업무 특성과 대국민 서비스 유형에 맞는 최적 솔루션을 찾는 것이 중요하다“고 말했다.
셋째는 AI의 신뢰성·윤리성·책임성 강화다. AI 기본법 시행을 계기로 공공에서 AI 신뢰성과 윤리성, 책임성 기준이 수립·실행되고 있으며, 국가정보원의 '공공 AI 보안 가이드북' 배포, 인사혁신처의 AI 활용 가이드 발간 등 안전·보안 관리 체계가 빠르게 정비되고 있다. 공공 종사자들의 AI 리터러시 강화 교육도 주요 과제로 부상했다.
김은정 연구위원은 2025년 2월 오픈한 온프레미스형 생성형 AI 업무지원 시스템 'KISTEP-GEN'의 운영 효과에 대해서 설명했다. 운영 결과 직원 1인당 평균 55분 절감, 36% 업무 효율화 효과를 증명했다. 이용자들은 요약(57%), 질의응답(44%), 보고서 초안 작성(25%) 순으로 시스템을 활용하는 것으로 만족도 조사에서 나타났다.
이 같은 성과를 인정받아 KISTEP은 2024년 디지털 경영혁신 기업 최우수 공공기관으로 선정된 데 이어, 2025년 과학기술정보통신부 AI 데이터 우수 활용 사례 공모전에서 장려상(과기정통부 장관 표창)을 수상했다.
KISTEP의 AX 로드맵은 더 많은 직원이 더 많은 업무에 AI를 활용할 수 있도록 KISTEP-GEN을 지속 고도화하는 데 초점을 맞추고 있다. 직원들이 이미챗GPT, 제미나이 등 상용 AI 서비스를 경험한 만큼, KISTEP-GEN이 기관 특화 업무에 실질적으로 유용하다는 경험을 제공하는 것이 관건이라는 설명이다.
KISTEP은 이를 위해 최신 모델, 에이전트, 자동화 도구, 프레임워크를 KISTEP-GEN에 지속 접목하는 한편, 직원 스스로 본인 업무에 맞는 AI 도구를 개발·활용할 수 있는 체계를 갖추는 것이 목표다.
김 연구위원은 “기관 차원에서는 필요한 조직, 예산, 인프라 확보와 전문인력 채용, 직원 재교육 등의 중장기 계획을 수립 중”이라며 “이 체계가 갖춰졌을 때 KISTEP이 과학기술 정책 지원 기관으로서 글로벌 경쟁력을 확보하는 원동력이 될 것”이라고 강조했다.
김 연구위원은 KISTEP 사례를 통해 공공기관에 전하는 핵심 조언으로 전사적 공감대와 참여의 중요성을 꼽았다. 그는 “AX는 정부 국정과제 대응뿐 아니라 향후 기관의 생존을 위해 반드시 가야 할 길”이라면서도 “경영진이나 일부 담당자만으로는 효과적인 AX 실행이 어렵다”고 강조했다.
KISTEP의 AI 도입 과정에서 스터디, AI 수요 발굴, PoC, 학습 데이터 구축, 피드백, 강화학습 등 전 과정에 직원들의 관심과 참여가 있었기에 순간순간 위기를 극복하고 실제 업무에 활용 가능한 AI 도구를 개발할 수 있었다는 것이다.
김 연구위원이 공공기관 AX 담당자들에게 가장 강조하는 메시지는 데이터 경쟁력이다. 그는 “AI 기술이 불가능한 영역이 점점 없어지고 있지만, AI 기술을 활용해 업무에 필요한 서비스를 개발할 때 가장 중요한 것은 어떤 데이터를 활용하느냐”라며 “우리 기관이 타 기관이나 일반 검색 데이터와 비교해 차별화된 경쟁력 있는 데이터를 보유하고 있어야 한다”고 말했다.
결국 기관이 보유한 데이터에 AI를 즉시 적용할 수 있는 상태, 즉 'AI 레디 데이터(AI-ready Data)'를 갖추는 것이 AX 추진의 출발점이자 속도를 결정짓는 핵심 요소라는 설명이다.
한편 김은정 연구위원은 3월 12일 잠실 한국광고문화회관에서 열리는 'AI 기본법 시행 이후, 공공 AX 전략과 실행' 세미나에서 'KISTEP AX 경험으로 본 공공기관 AX 성공전략'이라는 주제로 발표한다.
이번 행사는 이승현 포티투마루 부사장, 김시연 한국마이크로소프트 이사, 이승민 솔트룩스 AI혁신센터장, 조동욱 한국ESG데이터 대표, 황현태 스페이스와이 대표 등 전문가들이 공공 AX 현황과 전망 그리고 사례에 대해 발표할 예정이다. 행사에 관한 자세한 정보는 행사 홈페이지(https://conference.etnews.com/conf_info.html?uid=476)에서 확인할 수 있다.
임민지 기자 minzi56@etnews.com