한국전자통신연구원(ETRI)은 산하 인공지능안전연구소(AISI)가 오는 1일 그랜드 인터컨티넨탈 서울 파르나스에서 국내 AI 안전 관련 전문가가 참여한 가운데 AI 안전컨소시엄 합동회의를 개최한다고 밝혔다.
이날 회의에서는 △AI안전연구소 주요 추진 현황 및 성과 공유 △AI안전컨소시엄 운영체계의 확정 및 분과별 의제에 대한 논의가 이뤄질 전망이다.
AISI는 지난 11월 개소 이후, 정부와 함께 국내 AI 안전 확보를 위한 대표 전담 연구 조직으로서 활동해왔다. 특히, 독자 AI 파운데이션 모델 안전성·신뢰성 평가 역할 수임과 국제 AI 안전 네트워크에서의 공동 안전 평가 수행 등 AI 안전성 확보 노력을 기울여 왔다.
개소와 함께 24개 기업·기관으로 구성된 'AI안전컨소시엄'을 구축한 바 있다. AISI 연구 성과 확산·공유, 정책 방향 설정과 공동 논의, 안전 평가 방안 마련 및 공동 수행 등 국내 AI 안전 논의 구심점으로서 활동하는 것이 주목적이다. 또 이로써 대정부 정책 제안과 거버넌스 정립 기여 역시 목표다.
AI안전컨소시엄은 3개 분과로 구성했다. 정책 분과는 국내외를 둘러싼 AI 안전 정책 전반에 걸쳐 논의하는 중이다. 평가 분과는 글로벌 AI 안전 평가 사례를 공유하고, 실제 AI 안전 평가 수행을 위한 방안을 논의하는 중이다. 국제 AI안전 네트워크에서 수행 중인 공동 평가에의 참여·공유 방안을 모색하고 있다. 연구 분과에서는 AISI가 수행 중인 연구 이슈를 중심으로 연구 성과 연계·확산 방안을 논의한다.
지난 4월 22일에 컨소시엄 멤버를 대상으로 비공식 회의를 거쳐, 분과 구성과 분과별 논의 안건을 공유했으며, 후속 논의를 위한 제언 사항을 의견 조사서를 통해 수집·수렴한 바 있었다.
이번 10월 회의에서는 그간 AISI의 활동·성과를 공식적으로 공유하고, 분과별 안건 논의를 진행해 AI 안전 분야 이슈에 대응하고, 국내 대응 체계를 정립한다.
AISI는 향후 AI안전컨소시엄 논의의 확산을 위해, 멤버 추가 역시 고려하고 있다. 올 하반기에도 AI안전 확보를 위한 다양한 정책·평가 활동과 연구 성과를 낼 계획이다.
김명주 AISI 소장은 “AI 안전은 AI 기술 혁신을 뒷받침하는 기반이자, 글로벌 경쟁력을 결정짓는 핵심 기술 요소인 만큼, 반드시 확보해야 하는 필수재”라며 “AISI가 중심이 돼 정책·평가·연구를 수행하고 국내 산업계를 지원하는 만큼, 이를 효율·효과적으로 확산하고 담론을 형성하는 구심점으로서 AI안전컨소시엄 활동을 적극적으로 확대해 나가겠다.”고 밝혔다.
김영준 기자 kyj85@etnews.com
