국제인공지능윤리협회는 국가교육위원회가 대입제도 개편 공론화 과정에서 제시한 대학수학능력시험 서·논술형 답안의 인공지능(AI) 1차 채점 방안을 원점에서 재검토할 것을 촉구하는 성명을 27일 발표했다.
협회는 “서·논술형 평가의 도입이나 확대 자체에 대한 찬반이 아니라 그 채점을 AI에 맡기는 것이 현재의 기술 수준과 제도적 준비 상태에서 타당한지가 문제”라며 “서·논술 평가를 막아온 병목을 해소할 기술적 수단이 존재한다는 것과 그 수단을 대학 입시에 사용해도 좋다는 것은 전혀 다른 문제”라고 지적했다.
그러면서 “현재의 AI는 학습 데이터와 설계자의 관점에서 비롯된 편향에서 자유롭지 못하고 환각(할루시네이션) 현상도 해결되지 않았다”며 “불완전한 기술에 한 사람의 인생을 좌우하는 수능의 채점을 맡기는 것은 매우 위험한 일”이라고 말했다.
또 “잘못된 채점이 이뤄져도 학생과 교육 당국이 이를 인지하지 못한 채 입시 결과가 확정될 수 있고, 뒤늦게 오류가 드러나도 피해를 구제할 절차가 없다”고 덧붙였다.
협회는 올해부터 시행 중인 AI 기본법이 제2조 제4호에서 '교육기본법'에 따른 유아·초등·중등교육에서의 학생 평가를 고영향 AI로 명시하고 있다며 “수능 채점은 학생에 대한 평가인 동시에 대학 입학이라는 개인의 권리 관계를 결정짓는 평가로서 고영향 AI에 해당한다”고 밝혔다.
앞서 국가교육위원회는 지난 11일 대입제도 개편안 공론화를 위한 첫 토론회에서 서·논술형 답안의 AI 1차 채점 방안을 제시했고, 한국교육과정평가원은 18일 발간한 '교육광장'의 평가원장 인터뷰에서 단위학교 AI 채점 도입·활용 로드맵과 가이드라인을 제안하겠다는 계획을 밝힌 바 있다.
다만 이러한 계획에 대해 대입처럼 결과가 학생의 진로와 직결되는 영역에서는 AI 채점의 정확도뿐 아니라 채점 기준의 투명성, 오류 발생 시 이의제기와 재검증 절차, 인간 평가자의 최종 검증 등 별도의 안전장치를 마련해야 한다는 지적도 나온다.
전창배 국제인공지능윤리협회 이사장은 “AI 채점이 기술적으로 가능해졌다는 사실이 곧 대학 입시에 써도 된다는 뜻은 아니다”라며 “대학 입시는 전 국민의 삶과 맞닿아 있는 사안으로 단 한 명의 학생에게도 문제가 생기지 않고 피해가 발생하지 않도록, 학생 중심, 인간 중심의 관점에서 충분히 고민하고 연구해 사회적 논의와 합의를 거쳐 결정해야 할 문제”라고 밝혔다.
정현정 기자 iam@etnews.com
