인공지능안전연구소가 캐나다 혁신·과학·경제개발부(ISDE) 산하 인공지능안전연구소(AISI)와 인공지능(AI) 안전 평가 등 상호 협력에 나선다.
양측은 '서울 포럼 on AI 안전·보안(SFASS) 2026'을 계기로 AI 안전 협력을 위한 양해각서(MOU)를 체결했다. 김명주 AI안전연구소 소장과 알렉산드라 도스탈 캐나다 AI안전연구소장 겸 ISDE 전략정책부문 수석 차관보가 협정서에 서명했다.
협정은 서명일로부터 5년간 유효, 양측 서면 합의로 연장·수정할 수 있다. 양측은 180일 내 이행계획을 수립하기로 했다.
AI 관련 기술·위험·평가 방법론에 대한 정보를 교환하고 프론티어 AI 모델 평가를 위한 국제 표준 마련에 협력한다. 딥페이크 등 합성콘텐츠 위험 대응과 AI 측정과학 강화, 첨단 AI 시스템 위험 완화 방안 등을 폭넓게 논의하기로 했다.
또 정보·발간물을 교환하고 연구인력을 상호 파견해 공동 연구와 교육을 진행한다. 양측이 번갈아 개최하는 공동 세미나와 기술지원·자문·이전을 아우르는 연구개발 프로젝트도 함께 추진한다.
AI안전연구소는 2년 연속 서울에서 국제 AI 안전 협력 성과를 도출했다는 점에서 의미가 크다고 설명했다. 캐나다 정부부처 산하 기관과 협력 체계를 구축, 프론티어 AI 안전 평가와 측정과학 등 글로벌 의제 협력 네트워크를 지속 확대했다는 것이다.
두 연구소는 조만간 협정 이행을 전담할 조직을 지정하고 공동 이행계획을 마련한다. AI안전연구소는 이번 SFASS 2026에서 논의된 문화적 지역화 벤치마크, AI 에이전트 보안, 프론티어 AI 모델 안전 평가 등 과제도 캐나다 측과 협력에 반영해 후속 논의를 이어갈 계획이다.
김명주 소장은 “한국이 2년 연속 글로벌 AI 안전·보안 논의를 주도하고 단순 포럼 개최를 넘어 실질적인 국제 협력 성과를 도출했다는 점에서 높은 평가를 받았다”며 “지난해 미국 스케일 AI에 이어 올해 캐나다 AISI와 MOU 체결이 대표 결실”이라고 말했다.
한편 SFASS 2026은 지난 7~8일 'AI 안전·보안 및 관련 표준에 관한 노력과 향후 협력 방향'을 주제로서울 오크우드 프리미어 코엑스 센터에서 열렸다. 구글·마이크로소프트(MS) 등 글로벌 기업과 우리나라를 포함해 대만·싱가포르 등 아시아 주요 국가 연구자 130여명이 참석했다.
박종진 기자 truth@etnews.com
