인공지능(AI) 윤리 논의가 '원칙'에서 '실행'으로 빠르게 옮겨가고 있다. AI가 행정·복지·교통·교육 등 시민 일상으로 깊숙이 들어오면서 공정성·투명성과 같은 원칙을 선언하는 데 그치지 않고 AI 도입 전 위험을 살피고 운영 과정에서 문제를 감시하며, 이를 다시 제도 개선으로 연결하는 거버넌스가 필요하다는 목소리가 나왔다.
서울AI재단과 전자신문은 7일 서울 코엑스에서 '신뢰를 설계하다: 서울의 AI 미래(Designing Trust: Seoul's AI Future)'를 주제로 '서울 AI 윤리·거버넌스 포럼'을 개최했다.
올해 처음 열리는 이번 포럼은 국제기구와 AI 안전기관, 법·교육·미디어 전문가가 한자리에 모여 글로벌 AI 윤리 동향을 공유하고, 서울의 책임 있고 신뢰할 수 있는 AI 활용 방향을 모색했다.
이날 전문가들은 도시 행정에 AI가 도입되면 복지·돌봄 분야에서 자동화된 판단이 취약계층을 배제하는 편향, AI 기반 CCTV의 개인정보 침해와 과잉감시 문제, 민원 챗봇의 잘못된 안내에 따른 책임 소재 등 다양한 윤리 쟁점이 나타날 수 있다고 봤다.
김명주 인공지능안전연구소장은 “서울시는 AI 서비스를 위험도에 따라 분류하고 고위험 서비스는 도입 전 영향평가를 거치도록 해야 한다”며 “AI 정책 시행 이후 시민 반응을 모니터링할 수 있는 체계와 디지털 약자가 AI 활용 과정에서 소외되지 않도록 대체 서비스도 마련해야 한다”고 강조했다.
라이너 베슬리 주한 EU 대표부 디지털 참사관은 AI의 '블랙박스' 문제와 학습 데이터를 통한 인간 편향의 증폭, 딥페이크·허위정보 확산에 따른 사회적 신뢰 훼손을 주요 위험으로 꼽으면서 “윤리는 진보의 브레이크가 아니라 오히려 차량이 도로를 벗어나지 않도록 해주는 운전대”라고 강조했다.
베슬리 참사관은 유럽연합(EU)이 'AI 액트'를 통해 금지되는 '수용 불가능 위험'부터 의료·교육·법집행·고용 등 '고위험 AI', 투명성 의무가 적용되는 '제한적 위험'까지 위험에 비례해 규제하는 체계를 소개하면서 “우리의 초점은 AI가 인간 중심적으로 남는 것이며 인류의 이익을 위해 AI가 신뢰를 유지하도록 보장하는 것은 결국 인간의 몫”이라고 말했다.
임시연 유네스코한국위원회 선임전문관은 유네스코가 2021년 채택한 AI 윤리 권고와 준비도 평가 방법론(RAM)을 소개하며 “서울시 역시 국제 AI 윤리 원칙을 서울의 행정과 정책 환경에 맞춰 실제로 활용할 수 있는 기준으로 번역해야 한다”고 강조했다.
임 선임전문관은 “서울시가 추진하는 AI 윤리지표도 단순히 윤리 수준을 측정하는 도구가 아니라 실제 정책과 서비스의 판단을 지원하는 체계로 발전시킬 필요가 있다”며 “AI를 도입할 때 기술적 성능뿐 아니라 어떤 위험이 있고 시민에게 어떤 영향을 미칠지도 검토해야 한다”고 제언했다.
라밋 데브나스 영국 케임브리지대 교수는 '책임 있는 AI'의 핵심 과제로 '공공선을 위한 설계'를 꼽으며 “책임성·투명성·포용성을 AI 설계 단계부터 고려하고 기후·보건·교육·농업 등 사회 문제 해결에 활용해야 한다”고 말했다. 특히 기후위기 대응 과정에서 기후 데이터와 사회적 요인을 함께 고려해 취약계층이 AI의 혜택에서 배제되지 않도록 해야 한다고 설명했다.
AI 윤리를 실제 행정에 적용하기 위한 제안도 이어졌다. 김한균 한국형사·법무정책연구원 부원장은 미국 뉴욕시 조례를 소개하며 “AI 도구를 활용하는 것이 공익 실현에 더 효과적이라는 점을 시민에게 설득하는 과정이 중요하다”고 제언했다. 권이혁 서울시교육청 장학사는 학생들이 주체적으로 의사결정하기 위한 'AI 윤리 리터러시 교육'을 제안했다.
정현정 기자 iam@etnews.com, 조벼리 기자 starry@etnews.com
