정부가 '국가 인공지능(AI) 안전 생태계 조성 종합계획' 수립·시행을 통해 안전한 AI 기본사회 실현에 나선다.
이재명 대통령 대선 공약인 'AI 기본사회' 구현에서 나아가 국민이 체감할 수 있는 안전한 AI 사용 지원으로 AI 활용 확산에 따른 부작용으로 최소화하겠다는 취지다.
26일 전자신문이 입수한 국가 AI 안전 생태계 조성 종합계획안에 따르면 과학기술정보통신부는 △국민 일상을 지키는 AI 안전 △산업 발전을 지원하는 AI 안전 △세계를 선도하는 AI 안전 등 3대 추진전략 중심 세부 과제 실행으로 국가 AI 안전 생태계를 조성할 예정이다.
앞서 배경훈 부총리 겸 과기정통부 장관은 지난해 10월 AI안전연구소를 방문, “국민이 안심하고 사용할 수 있는 AI가 'AI 공존사회'의 첫걸음”이라며 “정부 차원 AI 안전 생태계 조성에 필요한 지원을 다하겠다”고 밝힌 바 있다.
산업과 일상생활에서 AI 활용이 확대될 것을 대비해 정부가 국민·기업과 함께 국가 AI 안전 생태계를 만들어가겠다는 취지였다.
과기정통부는 관계부처와 함께 AI 위험으로부터 국민을 지키는 'AI 안전 통합 지원체계'를 구축한다. 안전성이 검증된 AI는 믿고 사용할 수 있도록 표식을 지원한다. AI 관련 국민 민원을 해결하기 위한 제도도 마련한다.
국민 AI 안전 포털을 통해 'AI 위험지도'를 공개한다. AI 위험지도는 AI 기술 개발·사용에 따른 다양한 위험을 체계적으로 정리한 자료다. 개인·기업·정부가 AI 시스템을 개발·운영하거나 정책 수립 과정에서 고려해야 할 위험 요인을 프레임워크 형태로 구조화, 안전한 AI 활용을 지원하겠다는 의미다.
기업이 스스로 AI 안전체계를 수립·이행하도록 유도한다. 민·관이 함께하는 AI 안전협의체를 통해 AI 안전과 신뢰 확보를 위한 기업 자율 환경을 조성한다. 민간 검·인증도 활성화하고 글로벌 호환성을 확보해 제도 준수 효율성을 극대화할 계획이다.
또 정부 차원 AI 안전 분야 전문기업을 지원하고 국가가 주도한 AI 안전 연구개발(R&D) 결과와 기술을 공개하는 등 산업계의 AI 안전·신뢰 구현을 지원한다.
효율적이고 합리적인 AI 평가체계 구축으로 세계 AI 안전 분야 선도도 예고했다. AI 안전 원천기술 개발과 선제적인 첨단 AI 위험 연구를 통한 안전성 평가체계 구축, 다양한 AI 안전 평가 운영 등이 고려된다.
과기정통부는 이러한 AI 안전 관련 정부·기업 정책이 국민 생활에 직결되는 만큼 대국민 의견수렴 등을 거쳐 종합계획을 확정할 방침이다.
업계 관계자는 “우리나라가 세계 AI 안전·신뢰 제도를 선도하고 국제표준을 주도하게 된다면, AI 기술과 서비스 수출 시 최소한의 조치만 하면 된다”며 기대감을 나타냈다.
박종진 기자 truth@etnews.com
