[이강태의 IT경영 한수]<116>인간은 인공지능을 결코 이길 수 없다

인공지능(AI)으로는 크게 두 가지 종류가 있다. 스스로의 자아의식 없이 외부에서 명령을 해야 움직이는 약한 AI와 자아의식이 있어서 외부 명령 없이도 스스로 학습하고 진보하는 강한 AI가 있다. 약한 AI는 인간의 통제가 가능하지만 강한 AI는 통제가 불가능하다. 요즘 얘기가 나오고 있는 알파고나 왓슨은 약한 AI다. 그러나 이 약한 AI에 학습 능력과 추론 능력이 부가됐기 때문에 앞으로 이 약한 AI가 어떤 방향으로 발전해 갈지는 어느 누구도 확증적으로 말하기 힘들다.

AI 얘기가 나올 때마다 전문가, 평론가의 의견이 엇갈리고 있다. 한쪽은 AI는 인간의 생활을 편하게 도와주는 쪽으로 기여할 것이라고도 하고, 또 한쪽에서는 궁극적으로는 인간의 직업과 역할을 대신할 것이라고도 한다. 이런 극단의 견해에 덧붙여서 인간이 AI를 잘 활용하면 인간이 무한대의 능력을 가질 것이라고 하는 하이브리드 견해도 있다.

그 어느 쪽이든 결과적으로는 같다고 본다. 인간이 AI를 끝까지 잘 관리하고 통제할 수 있을 것이라고 생각하는 것은 순진한 생각이다. 언젠가 인간은 AI에 대한 통제를 놓치게 되고, 결과적으로 AI는 인간을 추월해서 스스로 자아를 갖고, 생존 본능을 갖고, 번식 본능을 갖게 될 것이다. 그래서 스티븐 호킹 박사나 엘론 머스크 테슬라모터스 최고경영자(CEO), 김대식 KAIST 교수는 강한 AI의 출현을 막아야 한다고 경고한다. 강한 AI, 즉 자아를 가진 AI의 출현을 막기 위해 세계 각국이 서로 협약을 하고 규약에 의해 철저하게 관리해야 한다는 것이다. 하지만 과연 이러한 합의만으로 인간이 무서운 속도로 발전하고 있는 AI의 발전 방향을 통제할 수 있을지는 의문이다.

철기 문화는 발전하면서 농사를 짓는데 큰 도움을 주었지만 결국 칼과 창으로 만들어져서 인간이 서로 싸우는 무기로 쓰였다. 화약을 발명해서 이 화약이 선한 목적으로 쓰이기를 바랐지만 결국에는 총과 대포로 발전해 가는 것을 막지 못했다. 원자력이 전기를 만들고 의료 분야에도 쓰이고 있지만 또 한편으로는 원자탄을 만들어서 언젠가 핵전쟁이 일어날 수 있게 됐다. 그러니 AI도 처음에는 약한 AI로 출발해서 인간에게 도움이 되는 쪽으로 쓰이겠지만 우리 인간의 욕망과 시기와 질투와 호기심이 넘지 말아야 할 선을 넘을 수도 있다.

또 인류가 처음 단세포에서 출발해 지금 이렇게 다양한 형태의 생물로 변화한 것을 보면 경이롭기조차 하다. 그런데 진화라고 하는 것은 돌연변이가 일어나야 가능하다. 우연한 기회에 돌연변이가 일어나고 이 변이가 생존 가능성을 높이면 진화는 이 방향으로 진행된다. 프로그램을 해 보면 결과가 엉뚱할 때가 많다. 지금 AI 개발자들도 자기도 잘 모르는 코드가 여기저기 끼어들 가능성이 크다. 이게 결국에는 돌연변이와 마찬가지로 AI도 처음에는 통제가 잘되겠지만 돌연변이나 자체적인 진화에 의해 결국에는 강한 AI로 발전하게 될 것이다. 이런 점에서 AI를 약한 AI에서 막고 강한 AI로의 진화를 막아야 한다는 것은 우리의 순진한 생각일 뿐이고, 이미 머지않은 장래에 강한 AI가 나오는 것이 거의 확실하다고 보는 것이 맞다.

AI와 인간의 차이를 직관으로 얘기하는 사람도 있다. 우리 인간에게는 직관이라는 것이 있어서 말로 설명할 수 없는 그 무엇이 인간에게 있다고 한다. 그러나 이러한 직관이 인간을 인간답게 하지만 또 한편으로는 인간을 인간일 수밖에 없도록 하는 한계가 된다. 직관을 말로 설명할 수 없다는 뜻은 인간의 어휘력이 부족해서 설명을 못한다는 뜻이다. 그러니 AI가 크게 발전한다고 해도 결코 직관을 가질 수 없기 때문에 우리 인간을 넘어설 수 없다고 주장하기도 한다. 그러나 인간의 직관이 AI와의 차이점이 될 수는 있어도 직관이 비교우위라고 말하기는 어렵다. 더더군다나 우리의 직관이 항상 옳은 것은 아니다. 엉뚱한 직관도 많고 후회하는 직관도 많다. 이런 불완전한 직관이 인간을 AI로부터 보호해 주기는 어렵다.

그러니 지금부터라도 우리 인간은 AI를 따라잡을 수 없음을 인정해야 한다. AI가 우리 인간에게 처음에는 큰 도움을 주겠지만 결국에는 그 도움만큼의 해악을 끼칠 것이라는 것을 예상해야 한다. 모든 세상의 변화가 영고성쇠를 거치듯 우리 인간의 문화도 결국에는 쇠퇴하게 되어 있다.

우리가 알파고와 왓슨에 열광하고 있고 기대가 크지만 결국에는 이 AI 때문에 인류가 단순한 노무자가 되고, AI의 지시에 의해 움직이고 생활하게 될 것이다. 이세돌과 알파고가 대국할 때 알파고 쪽에 앉아서 무덤덤하게 바둑돌을 놓고 있던 중국계 아자 황 박사처럼 말이다.

CIO포럼 명예회장(명지대 교수) ktlee@gmail.com