인공지능(AI) 윤리 논의가 '원칙'에서 '실행'으로 빠르게 옮겨가고 있다. AI가 행정·복지·교통·교육 등 시민 일상으로 깊숙이 들어오면서 공정성·투명성과 같은 원칙을 선언하는 데 그치지 않고 AI 도입 전 위험을 살피고 운영 과정에서 문제를 감시하며, 이를 다시 제도 개선으로 연결하는 거버넌스가 필요하다는 목소리가 나왔다.
서울AI재단과 전자신문은 7일 서울 코엑스에서 '신뢰를 설계하다: 서울의 AI 미래(Designing Trust: Seoul's AI Future)'를 주제로 '서울 AI 윤리·거버넌스 포럼'을 개최했다.
올해 처음 열리는 이번 포럼은 국제기구와 AI 안전기관, 법·교육·미디어 전문가가 한자리에 모여 글로벌 AI 윤리 동향을 공유하고, 서울의 책임 있고 신뢰할 수 있는 AI 활용 방향을 모색했다.
이날 전문가들은 도시 행정에 AI가 도입되면 복지·돌봄 분야에서 자동화된 판단이 취약계층을 배제하는 편향, AI 기반 CCTV의 개인정보 침해와 과잉감시 문제, 민원 챗봇의 잘못된 안내에 따른 책임 소재 등 다양한 윤리 쟁점이 나타날 수 있다고 봤다.
김명주 인공지능안전연구소장은 “서울시는 원칙 선언을 넘어 세 가지를 실행해야 한다”면서 “시가 도입하는 AI 서비스를 위험도에 따라 분류하고 고위험 서비스는 도입 전 영향평가를 거치도록 해야 한다”고 제안했다.
이어 “시민이 AI 판단에 설명을 요구하고 이의를 제기할 수 있는 창구와 디지털 약자를 위한 대체 서비스도 필요하다”면서 “AI 이용사업자로서 서울시가 AI를 책임 있게 쓰는 모범을 보이는 것, 그것이 가장 강력한 윤리 정책”이라고 강조했다.
임시연 유네스코한국위원회 선임전문관은 유네스코가 2021년 채택한 AI 윤리 권고를 소개하면서 “국가별 AI 윤리 이행 여건을 진단하는 유네스코의 준비도 평가 방법론(RAM)을 도시 차원에 적용할 때 국가 모델을 축소하는 것이 아니라 도시가 결정하고 운영하며 책임져야 할 문제를 중심으로 새롭게 설계해야 한다”고 말했다.
임 선임전문관은 “서울시가 추진하는 AI 윤리지표 역시 단순히 윤리 수준을 측정하거나 점수화하는 도구보다는 정책과 서비스의 기획·도입·운영·점검 과정에서 실제 판단을 지원하는 체계로 발전시킬 필요가 있다”면서 “데이터 적절성과 차별과 편향 가능성, 개인정보, 설명 가능성, 책임 주체, 시민의 이의제기 가능성 등을 함께 검토해야한다”고 제언했다.
라밋 데브나스 영국 케임브리지대 교수는 책임 있는 AI를 '공공선을 위한 설계'라는 관점에서 제시하고 “AI의 책임성과 투명성, 포용성을 설계 단계부터 고려하고 기후·교육·보건·농업 등 사회 문제 해결에 활용해야 한다”고 말했다. 특히 기후변화 대응 과정에서 기후 데이터뿐 아니라 인간·사회적 요인을 함께 고려해 취약계층이 AI의 혜택에서 배제되지 않도록 해야 함을 설명했다.
AI 윤리를 실제 행정에 적용하기 위한 구체적인 제안도 이어졌다.
김한균 한국형사·법무정책연구원 부원장은 뉴욕시 사례를 소개하며 “AI 윤리를 공무원의 업무와 조달, 기술검증, 시민 의견수렴 등 실제 행정절차에 반영할 필요가 있다”고 제언했다. 권이혁 서울시교육청 장학사는 AI 기반 맞춤교육 확대 과정에서 디지털 격차와 학생 학습데이터 보호, 알고리즘 편향 문제를 지적하며 시민과 학생을 대상으로 한 'AI 윤리 리터러시 교육'을 제안했다.
정현정 기자 iam@etnews.com
