[인지과학 패러다임] 뇌와 딥러닝의 궁극적 목적지 ‘깊은 배움’

글자 작게 글자 크게 인쇄하기
민병경 / 고려대 뇌공학과 교수
<민병경 / 고려대 뇌공학과 교수 >

우리는 영문도 모르고 배워왔다. 어릴 적부터 사과는 왜 빨간색인지 이유도 모르고, 사과라는 것은 그저 붉은색인가보다 하며 살아왔다. 친한 친구의 성격도 친구와 자주 만나다 보니, 그저 알게 되었고, 자전거도 타다 보니, 넘어지지 않고 잘 타게 되었다. 이렇게 부지불식간에 형성된 배움을 뇌과학적으로는 다음과 같이 이해할 수 있다. 특별히 이유가 없는 불완전한 지식의 반복된 배움으로, 해당하는 신경망이 은연 중에 형성되고, 점차 그 틀이 견고히 강화되어서, 뇌 안의 지식과 우리 몸의 행동으로 안정적인 고착화를 이루게 되는 것이다.

최근, 4차 산업혁명이라는 화두와 함께 딥러닝(deep-learning) 열풍이 불고 있다. 딥러닝은 우리가 어려서부터 보고 듣고 느끼면서 형성된 경험과 정보가 인생이라는 시간의 저장고에 암묵적으로 누적되어 깊게 배우게 되는 것에 비유될 수 있다. 즉, 그 배움(learning)의 원리를 명쾌하게 알기는 어렵지만, 우리 뇌 속에 기억(memory)이란 이름으로 고착되어, 어떠한 심적 변화나 행동을 가시적으로 초래하는, 복잡다단한 뇌 안의 누적된 배움의 형상이다. 시험 공부를 하기 위해, 도서관에 앉아서 골몰하는 것이 아무 것도 아닌 것 같지만, 공부하는 것이 왠지 힘들다는 것을 대부분 경험해 봤을 것이다. 공부하는 것은 외관 상으로만 보면 가만히 앉아서 아무 것도 안 하는 것 같지만, 우리의 뇌는 끊임없이 새로운 신경망을 생성하고 있는 중이기 때문에 우리가 힘들게 느끼는 것이 당연하다.

딥러닝에서는 일반적으로 초기값이 중요하다. 초기값이 잘못 잡혀 있으면, 최적의 값을 찾기는커녕, 엉뚱한 곳에서 헤매며 제대로 된 결과를 찾기 어렵게 된다. 마찬가지로, 우리의 뇌도 깊은 배움(deep learning)으로 견고한 기억이 형성되기 합당하게끔, 신경회로의 틀과 기본 원리가 존재한다. 예를 들어, 말로 표현을 안 해도, 어른의 행동을 보고 그대로 따라 하는 어린이들의 배움의 근간에는 ‘거울 신경 세포 (mirror neuron)’가 존재한다. 즉, 우리 신경계에는 특정 행동에 자동적으로 대응하여 반응하는 세포가 존재하는 것이다. 이는 TV를 통해 축구를 보고 있을 때에, 우리가 운동장에서 뛰고 있지 않더라도 즐거운 이유이다. 다시 말해서, 움직이는 축구 선수를 보고 있노라면, 자신의 뇌에 관련 운동을 담당하는 영역이 스스로 활성화되기 때문이다.

[인지과학 패러다임] 뇌와 딥러닝의 궁극적 목적지 ‘깊은 배움’

일반적으로 딥러닝은 완전한 무(無)에서 출발하여 쌓여진 데이터만으로 학습 원리를 순수하게 추정하는 것이 아니라, 아키텍쳐(architecture)라는 이름으로 최소한의 배움의 틀을 가지고 많은 데이터를 통해 최적화를 위해 다듬어지며 접근하는 것처럼, 우리의 뇌에도 해부학적으로나 기능적으로 구속적인 틀이 존재한다. 이는 모든 사람이 동일한 현상을 보고도, 각각 고유한 마음의 틀로 경험한 현상을 해석하는 인지적인 다양성만 봐도 알 수 있다. 또한, 뇌는 가소성(可塑性: plasticity)이 있기 때문에, 시간의 함수로 역동적인 변화를 할 수 있다. 예를 들어, 우리가 어떤 인지 기능이 특별히 더 필요하다면, 반복된 학습을 통해서 해당하는 신경망을 증강하고, 반면에, 그 인지 기능이 더 이상 불필요해지면, 그 신경망은 자연스레 퇴화하게 된다. 이 원리가 바로, 마음이 뇌를 만들고, 뇌가 마음을 만드는 원리라고 할 수 있다.

딥러닝의 기본 개념은 뇌과학의 원리에서 아이디어를 얻고 발전해 왔지만, 생물학적 한계를 지닌 뇌과학의 원리가 반드시 최적의 대안이 아니라는 점을 인식하는 순간, 인간 뇌의 한계를 뛰어 넘는 인공지능의 도래는 부인할 수 없는 필연적 현실이다. 알파고의 경이로운 급성장을 보며, 당혹스러워만 하고 있을 것이 아니라, 인간만의 ‘깊은 배움(deep learning)’이 무소불위(無所不爲)로 다가오는 인공지능보다 한 수 위라는 것을 흐뭇해할 희망을 가지고, 그 ‘깊은 배움’이 과연 무엇일 수 있을 지를 스스로 고민해본다.

민병경 min_bk@korea.ac.kr 고려대 뇌공학과 교수, 한국 인지과학회 교육이사, 한국 뇌교육학회 총무이사. IEEE BMI Systems 기술위원, Medicine 국제학술지 편집위원으로 활동하고 있다. 미국 Northwestern 대학에서 신경 생물 및 생리학 석사를 하고, 서울대 인지과학 박사과정 중에,독일 Magdeburg 대학에서 뇌파 연구로 생물 심리학 박사학위 취득. 서울대 병원 신경정신과 연구원, 세브란스 병원과 미국 하버드 의대 브리검 병원에서 박사후 과정에 있었다.