
오픈AI가 10월 6일 인공지능(AI)이 수행한 수학 연구 원고 722편을 공개했다. 수학자들이 오랫동안 풀지 못한 난제 370여개에 대한 풀이와 부분 풀이가 담겼다. AI가 수학의 최전선에서 거둔 성과로 받아들여질 만한 일이지만, 세계 수학계는 우려를 표했다. 일부 증명은 기계 검증으로 진행됐고, 학문 공동체의 검토는 끝나지 않았고, 비공개 모델로 만들어졌으며, 수학계와의 교류는 없었다. 수학계의 반응처럼 분명 우려할 만한 일이다.
하지만 이 사건은 우리 과학기술 정책이 나아가야 할 방향을 너무도 분명하게 가리키고 있다. 우선 오픈AI가 한 일은 이미 제시된 문제를 푸는 것이었다. 그 점에서 AI는 인간 수학자보다 훨씬 빠른 해결 속도를 증명했다. 인간이었다면 수년, 어쩌면 수십년에 걸친 노력 끝에야 얻었을 결과물이다. AI가 높은 생산성을 보였다는 사실까지 굳이 반박할 필요는 없다. 오히려 그 압도적 속도가 문제를 푸는 일 너머에 있는 인간 수학자의 기여를 더욱 선명하게 드러냈기 때문이다.
이번 난제 풀이 과정은 그 자체로 그동안 우리가 생각해 보지 못한 지식 탐구의 과정이 어떤 것인지, 그 속에서 인간의 역할이 무엇인지 비로소 분명하게 해줬다. 인간 수학자가 더 많은 노력과 시간을 들여 이 난제들과 씨름했다면 그 과정에서 수학은 새로운 도구를 발명했을 것이다. 새로운 시도가 있었을 것이고, 그만큼 수학에 대한 이해도 높아졌을 것이다.
오픈AI의 풀이도 그런 일을 해냈을까. 역설적이게도 오픈AI가 증명만 제시한 것이라면, 수학계와 사회가 얻을 혜택은 인간이 풀었을 때보다 오히려 축소됐을 것이다.
더욱 명확한 것도 있다. 370여개의 문제가 어디서 왔는지 생각해 보자. 이 난제들은 대단히 오랜 기간 인간 수학자들이 도출한 것이다. 수학의 문제는 얼마든지 만들 수 있다. 어쩌면 무한할지도 모른다. 그중 이 문제들이 난제로 인정받아 온 것은 그것을 풂으로써 수학과 사회가 중요한 혜택을 얻으리라고 인간 수학자들이 판단했기 때문이다. 그러니 이번 풀이로 인간 수학자의 기여가 사라지는 것은 아니다. 난제를 도출한 일 자체가 인간 수학자의 가장 중요한 기여였다.
여기서 인간과 AI의 공존에서 인간이 맡을 역할이 분명해진다. 이번에 문제를 푼 것은 AI다. 하지만 문제를 만든 것은 인간이다. 그 난제들을 도출하고, 그것이 진정 가치 있는 난제인지, 풀이로 무엇을 얻을 수 있는지 이해한 것은 인간이다. 클레이수학연구소가 2000년 선정한 7개 '밀레니엄 문제'도 단지 풀기 어려워서 뽑힌 것이 아니다. 해결됐을 때 수학계와 사회에 미칠 영향이 그만큼 크기에 선정됐다. 문제 풀이는 AI가 더 잘할지 모른다. 하지만 문제를 만들고 그 문제가 왜 중요한지 판단하는 일은 인간의 몫이 될 것이다.
이 점은 우리에게 너무도 중요한 함의를 남긴다. 한국은 추격자 모드에서 프런티어 모드로 전환하겠다고 지난 20년간 말해 왔다. 그렇다면 한국 과학계가 프런티어로 나아가는 데 결여된 것은 무엇이었을까. 문제를 푸는 능력에 비해 가치 있는 것을 찾아내 문제를 던지는 능력은 그만 못하지 않을까 하는 것이 우리의 자평이자 두려움이었다. 이번 사건은 결단하기에 불분명했던 한국 과학기술 정책의 방향을 말해 준다. 그 함의는 세계 과학계에 던지는 것보다 우리에게 훨씬 뚜렷하다.
우리가 해야 할 일은 분명하다. 질문을 만들고, 어떤 질문이 가치 있는지 판단하고, 그로써 가치 있는 문제를 도출하는 역량을 만들어가는 것이다. 정해진 과제를 빨리 잘 푸는 데 익숙했던 연구 문화가 가치가 없다는 말이 아니다. 단지 이것만으로는 질문하는 능력이 자라기 어렵다. 연구개발(R&D)의 지원과 평가도 얼마나 빨리 풀었는가 못지않게 얼마나 가치 있는 질문을 던졌는가를 묻는 쪽으로 옮겨 가야 한다.
AI가 답을 쏟아내는 시대, 질문을 만드는 능력이야말로 한국이 갖춰야 할 핵심 역량이다. 이번 오픈AI의 난제 풀이는 이 점을 우리에게 더없이 선명하게 보여줬다.
박재민 건국대 교수 jpark@konkuk.ac.kr