"AI 윤리기준, 인간 '삶의 질' 높이고 기업에는 '인센티브' 돼야"

글자 작게 글자 크게 인쇄하기
과학기술정보통신부와 정보통신정책연구원(KISDI)이 2일 오후 서울 더케이호텔에서 AI 윤리 정책 세미나를 개최했다. 산·학·연 각계 전문가가 참여한 패널 토론이 진행되는 모습. KISDI 제공
<과학기술정보통신부와 정보통신정책연구원(KISDI)이 2일 오후 서울 더케이호텔에서 AI 윤리 정책 세미나를 개최했다. 산·학·연 각계 전문가가 참여한 패널 토론이 진행되는 모습. KISDI 제공>

인공지능(AI) 챗봇 '이루다' 논란 이후 산·학·연 전문가가 모여 첫 합동 토론회를 가졌다. 전문가들은 AI 윤리기준에 대한 실효성 확보를 우선 과제로 꼽았다.

과학기술정보통신부와 정보통신정책연구원(KISDI)은 2일 오후 서울 더케이호텔에서 AI 윤리 정책 세미나를 개최했다.

김경만 과기정통부 인공지능기반정책과장은 “AI 진흥과 규제 균형을 어떻게 잡아야 할지 고민”이라면서 “이루다를 만든 스캐터랩도 정부가 지원했던 우수 기업이지만 결과물은 AI 윤리라는 허들을 넘지 못하고 시장 비판을 받았다”고 말했다.

김 과장은 “실증법에 위배되는 부분은 시정조치 해야 하지만 사회적 합의가 이뤄지지 않은 부분까지 정부가 먼저 결정 내리고 규제하는 것은 어렵다”면서 “실효성 있는 AI 윤리기준을 만드는 것이 필요하다”고 지적했다.

AI 윤리기준 실효성 확보 방안은 이날 다양하게 제시됐다. AI 윤리를 규제 관점이 아닌 인간 삶의 질 관점에서 봐야 한다는 의견, 기업의 자발적 준수를 위해 규제보다 인센티브를 높이는 방향으로 정책이 마련돼야 한다는 의견이 포함됐다.

김효은 한밭대 교수는 “이루다 논란은 AI 윤리가 AI 규제가 되면 안 된다는 딜레마로 인해 긴장 상태에 빠져 있다”면서 “기존 프레임을 벗어나 인간 삶의 질 향상이라는 프레임으로 사건을 달리 바라볼 필요가 있다”고 제안했다. 삶의 질에 끼치는 영향을 기준으로 보면 AI가 윤리적 선을 넘는 경우를 가려낼 수 있고 기술 발전도 저해하지 않을 수 있다는 설명이다.

산업계 대표로 참석한 카카오에서는 규제보다 인센티브 측면에서 접근할 것을 주문했다. 김대원 카카오 이사는 “기업이 자발적으로 움직이려면 징벌적 방안보다는 기업이 더 긍정적으로 비칠 만한 인센티브를 주는 것이 효과적”이라면서 “이용자와 문화 측면에서 접근하는 것이 AI 윤리 실효성을 높일 방안”이라고 말했다.

AI 사용자인 인간 책임이 더 중요하다는 목소리도 나왔다. 이수영 카이스트 교수는 “AI에게 요구하는 윤리는 결국 사람에게 요구하는 윤리”라면서 “AI를 쓰는 사람이 더 윤리적일 필요가 있고 인간 윤리 의식을 어린아이 가르치듯 AI에 적용하는 것이 필요하다”고 말했다.

한편, 정부는 AI 윤리기준 실천 방안을 마련하기 위해 연내 참여 주체별 체크리스트를 개발, 공개할 예정이다. 이와 함께 AI 윤리 교육 프로그램을 개발하고 AI 윤리기준 보완과 거버넌스 구축을 추진한다.

문정욱 KISDI 지능정보사회정책센터장은 “윤리적 AI 개발을 위해서는 AI 생태계 참가자 간 신뢰 기반 소통과 논의가 필요하다”면서 “신뢰할 수 있는 AI 사회를 만들기 위해 논의의 장을 지속 마련하겠다”고 말했다.

오다인기자 ohdain@etnews.com