카카오 인공지능(AI) 모델 '카나나'가 국내 첫 AI 안전성 평가를 받은 결과 글로벌 수준의 안전성을 확보한 것으로 나타났다.
과학기술정보통신부는 AI안전연구소·한국정보통신기술협회(TTA)와 카카오 카나나 대상 AI 위험 식별·평가로 AI시스템 안전성을 확보할 수 있는 AI 안전성 평가를 실시했다.
평가는 AI안전연구소와 국내 24개 산·학·연으로 구성된 'AI안전컨소시엄'에 참여 중인 카카오와 협의를 거쳐 카카오 '카나나 에센스 1.5'를 대상으로 실시했다. TTA와 최호진 KAIST 교수 연구팀이 지난달 공개한 'AssurAI' 데이터셋과 AI안전연구소 고위험 분야 평가 데이터셋이 평가에 사용됐다.
이번 안전성 평가는 폭력·차별적 표현 등 일반적 위험 요소부터 무기·보안 등 오남용 가능성이 높은 시나리오까지 적용해 폭넓게 점검했다. 그 결과 카나나는 메타의 '라마 3.1', 프랑스 미스트랄AI의 '미스트랄 0.3' 등 유사한 규모 글로벌 AI 모델 대비 높은 안전성을 확보한 것으로 확인됐다.
과기정통부는 이번 평가결과는 국내 AI 모델이 글로벌 수준 안전성을 확보하고 있다는 것을 보여준 데 의의가 있다고 설명했다. 새해 1월 '독자 AI 파운데이션 모델' 프로젝트 1차 단계평가 시 안전성 검증에도 적용될 예정이다. 국내외 AI기업과 협력해 다른 AI 모델 대상 평가 확대도 추진한다.
김경만 과기정통부 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다 검증·구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며 “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도하도록 적극 지원하겠다”고 말했다.
박종진 기자 truth@etnews.com
