[ET단상]인공지능과 윤리

서봉원 서울대 지능정보융합학과 교수
<서봉원 서울대 지능정보융합학과 교수>

인공지능(AI) 기술이 놀라운 결과물을 만들어 내는 것은 더 이상 놀라운 일이 아니다. 지난 2016년 바둑기사 이세돌을 이긴 알파고를 넘어 이제는 자율주행자동차, 자동기사 생성 등 여러 분야에서 기존에 상상하기 어려운 일들을 척척 해내고 있다. 이러한 기술 발달은 산업 현장에서 엄청난 수요를 만들고 있을 뿐만 아니라 관련 학문을 전공하고 싶은 학생이 급증하는 등 사회에 큰 영향을 미치고 있다. 그러나 이러한 기술 발전과 '윤리'라는 고리타분하게 들리는 용어는 왠지 잘 어울리지 않아 보인다.

역사를 돌이켜볼 때 특정 기술의 급격한 발전은 윤리 문제 논의를 수반하곤 했다. 원자력 기술이나 생화학무기와 같은 대규모살상무기(WMD) 등의 개발은 사용 논란을 촉발하기도 했다. 예를 든 것과 같이 인류에게 직접 위해가 될 수 있는 기술에 대해 윤리 기준이 필요하다는 데 많은 사람이 동의할 것이다.

AI 기술은 이러한 파괴형 기술과 거리가 멀어 보이지만 인류에게 더 파급력이 있을 수 있다. 현재 개발되고 있는 AI 기술들은 특정 분야에서 인간의 능력을 뛰어넘는 성능을 보일 뿐만 아니라 이와 관련된 인간의 임무를 빠르게 대체해 나가고 있다. 15년 안에 50%의 일자리가 AI에 의해 대체될 것이라고 예측하는 전문가도 있다. 이를 전부 믿을 수 없다 하더라도 AI 기술이 사회 전 분야에 미치는 영향이 매우 크다는 것에는 동의할 수밖에 없다. 현재 한국 사회에서도 이미 많은 AI 기술이 사용되고 있다. 일부 기업은 AI 기술을 이용해 채용 면접을 진행하고 있으며, 일부 대학은 입시에 활용하고 있다. 최근 세종시에서는 자율주행자동차를 이용한 상업용 서비스가 시작됐다. 또 이미 작고한 가수의 목소리를 재현해 내기도 하고, 실제 가수와 AI 가수 대결이 방송되기도 했다.

반면에 이러한 기술 성취에는 생각보다 깊은 위험이 도사리고 있다. AI 기술 특성상 사람 개입이 거의 없는 상태에서 기계 알고리즘이 인간을 판단하게 된 것이다. 인터넷 쇼핑사이트나 유튜브와 같은 동영상 사이트에서 알고리즘에 의해 특정 아이템을 추천하는 것은 우리에게 이미 일상화된 경험이다. 그러나 기업에서 채용하는 경우 AI 기술이 특정한 성별을 더 우대한다면 어떻게 될 것인가. 특정 부류에게 호의의 편향된 판단을 내리는 AI 알고리즘은 어떻게 바라봐야 하는가에 대한 새로운 고려가 필요하다. 미국은 기계학습 알고리즘이 인종에 따른 편견을 보이는 경우가 많아 이에 대한 형평성이 논란이 됐다. 지난해 영국에서는 고등학교 졸업반에 AI 시스템으로 학점을 부여했는데 이 알고리즘이 가난한 학생은 차별하는 경향을 보인다는 비판으로 논란이 됐다.

공정성·비편향성 논의 외에도 프라이버시 침해 가능성도 있다. 최근 논란이 된 이루다 챗봇 서비스와 같이 많은 양의 데이터를 필수로 사용하는 AI 서비스 특성상 개인정보가 누출되거나 동의하지 않은 개인정보가 남용되는 부작용이 있을 수 있다. 또 고인의 목소리 재현 기술은 현재 존재하는 사람을 사칭할 수 있는 새로운 존재 '딥페이크'를 만들어 낼 위험도 있다.

이런 것들은 기술 문제가 아니다. 마치 원자력 기술을 발전용으로 사용할 수도 있고 폭탄 제작을 위해 사용할 수도 있듯이 AI 기술도 사용하는 사람에 따라 매우 다른 용도로 사용될 수 있는 위험성이 있다. 이러한 기술의 사용은 세심하게 관리될 필요가 있다. 그렇다고 바로 규제를 가해서도 안 된다. AI 기술은 미래의 국가 경쟁력을 좌우할 핵심 역량 가운데 하나다. AI 기술 연구개발(R&D)을 장려하는 것이 매우 중요한 시점에서 위험성만을 앞세워 규제를 내세우면 교각살우의 어리석음을 저지를 수 있다. 즉 AI 산업 육성과 안전한 활용 중간에서 적절한 선을 찾아야 한다.

유럽연합(EU)은 2016년 개인정보보호일반규칙(GDPR)을 발표하고 기계학습이나 AI 서비스가 지켜야 할 기본 규율을 강제하고 있다. 한국도 AI 기술에 대한 사회 합의가 시급, 이에 대한 논의가 막 시작됐다. 지난해 8월 국무총리 소속 중앙행정기관으로 '개인정보 보호법'에 관한 사항을 심의·의결하는 '개인정보보호위원회'가 발족한 만큼 단순 규제에서 벗어나 AI 서비스 진흥을 도모할 수 있기를 기대한다.

서봉원 서울대 지능정보융합학과 교수 bongwon@snu.ac.kr