정부가 공무원 교육훈련 현장까지 빠르게 확산된 인공지능(AI) 기술에 대응하기 위한 생성형 AI 활용 기준 마련에 나섰다.
인사혁신처는 보고서 작성 과정에서 챗GPT, 제미나이 등 생성형 AI의 부적절한 사용을 막기 위한 첫 공식 가이드라인을 공개했다.
교육훈련생이 결과보고서 작성 과정에서 준수해야 할 '생성형 AI 활용 지침'을 전 부처에 배포하고, AI 부적절 활용 사례에 대한 집중 점검 결과를 발표했다.
이번 지침은 자료 수집, 번역, 초안 작성 등 교육훈련 과정에서 생성형 AI 활용이 일상화되고 있음에도 명확한 기준이 없어 발생할 수 있는 문제를 예방하기 위해 마련했다.
지침의 핵심은 생성형 AI를 '보조적 도구'로 활용하되 연구와 보고서 최종 책임은 훈련생 본인에게 있다는 점이다. 단순한 편의 도구를 넘어 연구 윤리와 공공 신뢰가 직결되는 만큼, AI 활용 과정에서도 엄격한 책임 의식이 요구된다는 의미다.
인사혁신처는 연구 내용의 진실성 추구, 활용 사실의 투명한 공개, 공정성 유지, 윤리적 활용, 비판적 검토, 개인정보 보호 등 7대 기본 원칙을 중점적으로 제시했다. AI가 제공한 결과를 무비판적으로 수용하지 말고 반드시 사실 검증 과정을 거쳐야 한다는 점도 강조했다.
지침은 국내외 연구기관과 대학의 유사 사례를 분석하고, AI 연구윤리 전문가 자문을 거쳐 완성했다. 훈련생 이해를 돕기 위해 실제 위반 사례 예시와 자가 진단용 점검표도 포함돼 있다.
인사혁신처는 지침 배포에 앞서 최근 3년간 제출된 국외훈련 결과보고서 1385건을 대상으로 생성형 AI 활용 실태를 집중 점검했다. 자가 점검과 부처·인사처 단계별 검증, 외부 전문가 심의를 거친 결과 총 11건의 부적절 활용 사례가 확인됐다.
대표 사례로 AI의 허위 정보 생성 현상인 환각과 실제 존재하지 않거나 확인이 불가능한 문헌정보 기재, 이모지 및 특수기호 사용 등이 포함됐다. 해당 교육생에 대해서는 훈련비 환수 등 후속 조치를 진행 중이다.
인사혁신처는 지침서를 전 부처에 배포하고, 인재개발정보센터 누리집을 통해 공개·활용할 계획이다. 연구 윤리 인식을 높이기 위한 사전교육도 확대하고, 참고문헌 인용 방식도 표준화할 방침이다.
김성훈 인사혁신처차장은 “공무원들이 교육훈련 과정에서 책임 의식을 갖고 생성형 AI를 올바르게 활용할 수 있도록 지원하겠다”며 “공무원 교육훈련의 신뢰성과 성과 제고를 위해 관리 체계를 지속 강화해 나가겠다”고 말했다.
양승민 기자 sm104y@etnews.com
