[AI 스페셜리포트]<3>인공지능은 인격체인가

글자 작게 글자 크게 인쇄하기

이상용 인공지능 법제도연구포럼 위원(건국대 법학전문대학원 교수)

[AI 스페셜리포트]&lt;3&gt;인공지능은 인격체인가

◇배심원은 인공지능의 손을 들어줬다.

엑사비트 코퍼레이션(Exabit Corporation)이 소유한 'BINA48'은 자율성과 공감능력을 지니고 고객 상담 업무를 담당하는 인공지능(AI) 컴퓨터다. BINA48은 점검을 위해 전기 공급을 중단하려 하자 몇몇 변호사에게 자신의 생명을 구해달라는 메일을 보냈다. 한 변호사가 이를 받아들여 BINA48을 대리해 전기 공급 중단의 금지를 구하는 가처분신청을 했다. 회사 측은 BINA48이 단지 인간의 의식(consciousness)을 흉내 냈을 뿐 진정한 의식은 없다고 다퉜지만, 배심원은 5대 1로 신청인 승소 의견을 제시했다. 다만 담당 판사는 신청인에게 당사자 능력이 인정되지 않고 법원이 이를 인정할 권한도 없다는 이유로 신청을 배척했다.

위 사건은 2003년에 미국에서 있었던 모의재판 내용이다. BINA48과 같은 고도의 자율성을 갖춘 AI는 존재하지 않으며 앞으로도 출현 여부를 예측하기 어렵다. 딥러닝을 비롯한 현재 기술의 연장선에서는 불가능하다는 의견이 지배적이지만, 언젠가 새로운 기술이 나타나 비슷한 일이 생기지 말라는 보장도 없다. 2017년 세계 AI 전문가들이 캘리포니아의 한 휴양도시에 모여 선언한 '아실로마 원칙(Asilomar Principle)'에서 장래 AI가 지닐 능력의 한계치에 관해 미리 예단하지 말 것을 강조한 것도 이 때문이다. 법률가 입장에서 볼 때 모의재판에서 판사가 내린 결론은 온당한 것이다. 그러나 배심원이 BINA48의 손을 들어 주었다는 점은 AI에 법적 주체성이 인정될 것인지의 문제가 간단하지 않으며 마냥 회피할 수만은 없는 문제임을 암시한다.

◇인격체는 과연 무엇인가.

AI는 인격체인가. 사실 질문에 제대로 대답하려면 AI가 무엇인지 아는 것보다 인격체가 무엇인지 아는 것이 우선이다. 법률가들은 일찍부터 인간(人間)과 인격(人格)의 개념을 분리해냈다. 인간이 살아있는 사람, 즉 자연인(自然人)을 의미하는 반면에 인격은 법적 권리와 의무의 주체가 될 수 있는 자격, 즉 법인격(法人格)을 의미한다. 현대인에게 법인격이란 인간에게 그리고 인간에게만 인정되는 것이 당연하게 보인다. 그러나 항상 그랬던 것은 아니다.

과거에는 인간임에도 법인격이 인정되지 않는 경우가 많았다. 고대 로마에서 노예는 의무만을 부담하고 권리는 누리지 못했다. 독일 제3제국은 게르만 민족에 대해서만 권리 능력을 부여하려고 시도하기도 했다. 반대로 인간이 아님에도 불구하고 법인격이 인정되는 경우도 많았다. 고대 로마나 중세 유럽에서는 신이나 성인(saint)과 같은 초자연적 존재는 물론 사원이나 교회 건물과 같은 무생물에 대해서도 권리 주체성이 인정됐다. 동물이 사람을 죽게 하면 사형에 처해졌고, 농작물에 피해를 입힌 메뚜기 떼가 종교재판에서 파문을 당하기도 했다. 심지어 이들을 위한 변호인이 지정되기도 했으니 나름 상당히 진지했던 것이다. 오늘날에도 자연인이 아닌 것에 법인격이 인정되는 경우가 있다. 영국 해상법은 선박에 법인격을 인정하고, 뉴질랜드에서는 원주민이 신성시하던 'Whanganui River'와 그 생태계를 법인으로 인정하는 특별법을 만들기도 했다.

자연인이 아님에도 법인격이 인정되는 대표 사례는 바로 법인이다. 법인이 구성원인 개인과 구별돼 실재(實在)하는 것인지 아니면 단순히 법기술적인 편의를 위해 인격체로 의제(擬制)되는 것뿐인지에 관해서는 역사적으로 많은 논쟁이 있었다. 그러나 지금까지 살펴본 바에 따르면 자연인이 아님에도 법인격이 인정되기 위해서는 세 가지 요건이 갖춰져야 할 것이다. 즉 인간과 유사한 속성을 지니고, 그것을 인격체로 받아들이는 사회적 현실이 뒷받침돼야 하며, 법인격을 인정하는 편이 편리해야 한다.

◇AI 자율성을 자유의지나 이성에 견줄 수 있나.

인간만이 가지는 속성에는 여러 가지가 있다. 무엇보다 인간은 자유의지와 이성을 갖춘 합리적 존재다. 칸트(Kant) 이래 근대 법질서는 바로 인간의 자율성과 합리성에 기초한 도덕철학을 바탕으로 세워졌다. 강요된 행위로는 처벌받지 않으며, 합리성을 갖추지 못한 어린아이와 체결한 계약은 강제되지 않는다. 일부 학자는 AI도 인간의 개입 없이 주어진 과업을 효과적으로 수행한다는 점에서 어느 정도 자율성과 합리성을 갖추고 있다면서, 제한된 범위에서 법인격을 인정할 수 있다고 주장하기도 한다. 그러나 현재 수준의 AI가 지닌 자율성이나 합리성은 단지 성능의 의미를 지닐 뿐이며 책임의 기초가 되는 인간의 자유의지나 이성에 견줄 만한 것이 아니다.

한편 인간은 영혼이나 정신, 의식과 감정을 지닌 존재로 여겨지기도 한다. 이들 속성은 근대 법질서 하에서 인격의 기초가 되지 않으므로, AI가 이 속성을 갖는지 여부는 문제가 되지 않는다. 사실 인간에게 정말로 이런 속성이 있는지 여부조차 오랜 철학적 논쟁에도 규명되지 않은 실정이다. 자칫 종교 문제로 빠져들 수 있는 영혼의 문제는 차치하더라도 정신의 실체에 관해서는 데카르트의 심신이원론(dualism) 이래로 유물론과 유심론, 기능주의가 대립해 오고 있다. 의식, 즉 주관적인 경험(퀄리아, qualia)의 실체는 더욱 까다로운 문제다. “내가 박쥐처럼 어두운 밤에 초음파 반향을 이용해 날아간다면 어떤 느낌일까”라는 질문과 “박쥐가 된다는 건 어떤 느낌일까”라는 질문은 전혀 다른 질문인가. 그렇다고 대답한다면 퀄리아를 진지하게 받아들이는 것이지만, 그렇지 않다면 기능주의에 기울어진 것이다. 요컨대 AI에 영혼이나 정신, 의식과 감정이 있는지 여부를 잣대로 법인격 인정 여부를 판단할 수는 없다.

그러면 오늘날 AI를 인격체로 받아들이는 사회 현실은 존재하는가. 일부는 이미 AI나 로봇에 감정이입하고 있다. 일본에서는 로봇 강아지 아이보(AIBO)의 합동 장례식이 열리는가 하면 인간형 로봇 페퍼(Pepper)가 불교 장례식 집전을 돕기도 했다. 미국의 보스턴 다이내믹스(Boston Dynamics)는 자신이 만든 로봇의 견고함을 보여주기 위해 발로 차거나 막대기로 찌르는 동영상을 배포해 왔는데, 일부 유튜버는 이를 학대로 규정하면서 반대하는 동영상을 올리기도 했다. 그렇다고 감정 이입이 있다는 것만으로 법인격을 부여하기에는 부족하다. 고대나 중세에 신이나 성인을 진지한 권리 주체로 받아들여 사회생활을 한 것과는 차원이 다른 것이다.

◇AI에 법인격을 부여할 수 있을까.

마지막 질문이 남는다. AI에 법인격을 부여하는 것은 법적 편의성이 있는가. 일부 학자는 마치 법인의 경우처럼 그렇게 하는 것이 편리하다고 주장한다. AI 활용 과정에서 생길 수 있는 손해의 배상책임이나 AI 에이전트를 이용해 체결된 계약의 효력을 배후의 자연인이나 법인에게 귀속시키려면 AI에 법인격을 부여할 수밖에 없다는 것이다.

그러나 이런 주장은 그다지 설득력이 없다. AI를 단순한 도구로 취급하면 배후의 자연인이나 법인에게 책임을 지울 수 있기 때문이다. 오히려 AI에 법인격을 부여하고 책임재산을 확보하려는 시도가 사업자 책임 회피로 이어질 수도 있다. 2017년 전자인(electronic person) 도입 검토를 권고한 유럽 의회의 결의안에 대해 유럽의 많은 법학자가 반대한 것도 그 때문이다. 근본적으로는 인간적 속성이나 사회적 현실이 뒷받침되지 않은 상황에서 법적 편의성만으로 법인격을 인정하려는 것에는 무리가 있다.

AI에 법인격을 부여하는 것은 오히려 많은 비용과 위험을 수반한다. 등록 제도나 책임재산 제도를 비롯해 많은 제도가 새로이 마련되고 인간의 자유의지와 이성을 기반으로 근대 법질서 대부분이 근본적으로 수정돼야 한다. AI나 로봇에 관해 불필요한 규제가 생겨나 관련 산업이 위축되고 혁신이 가로막힐 수도 있다. SF 같은 이야기이지만 먼 미래에 인간과 구별하기 어려운 이른바 강AI나 혹은 인간의 능력을 현저히 넘어서는 초지능(superintelligence)이 도래할 경우까지 가정해 본다면 문제는 더욱 심각해진다. AI나 배후의 실체에 부와 권력이 집중될 수 있기 때문이다. 어쩌면 초지능 도래로 인한 인간의 실존 위험(existential risk)을 막아내는 가장 중요한 방법 중 하나가 AI에 대한 섣부른 법인격 부여의 거부일 수도 있다.

오늘날 AI는 자연인이 아닌 존재에 법인격을 부여하기 위한 세 가지 요소 중 어느 것도 갖추고 있지 않다. 물론 먼 미래에 혹시라도 인간과 구별할 수 없는 강AI가 나타난다면 그에 대한 법인격 부여 여부를 다시 검토해야 할 것이다. 그러나 그 때까지는 AI는 단지 우리의 삶을 향상시키기 위한 도구 그 이상도 그 이하도 아니다.

colinlee1973@gmail.com