인공지능(AI)이 인간 수학자들이 수십 년간 풀지 못한 최고 수준의 수학 난제까지 공략하기 시작하자 세계적인 수학자들이 AI 기업들의 '난제 해결 경쟁'에 집단 경고를 내놨다.
11일(현지시간) 월스트리트저널(WSJ) 등 외신에 따르면 허준이 미국 프린스턴대 교수와 테런스 타오 미국 캘리포니아대 로스앤젤레스(UCLA) 교수 등 필즈상 수상자 25명은 '수학 분야에서 AI의 심각한 목표 불일치'라는 제목의 공동성명을 발표했다.
이들은 AI 기업들이 수학 문제 해결 능력을 기술력의 성능지표로 활용하는 과정에서 수학의 본질인 개념적 이해와 통찰이 훼손될 수 있다고 우려했다.
수학자들은 “문제를 푸는 것은 개념적 이해와 통찰이라는 가장 중요한 목표를 달성하기 위한 도구이자 대리 지표에 불과하다”며 “이를 잊으면 도구가 오히려 본래 목표를 해칠 수 있다”고 지적했다.
이번 경고는 오픈AI가 최근 세계 7대 수학 난제로 꼽히는 '나비에-스토크스 방정식 해의 존재성과 매끄러움' 문제의 해법을 찾았다고 발표한 직후 나왔다.
나비에-스토크스 문제는 2000년 미국 클레이수학연구소가 선정한 '밀레니엄 문제' 7개 가운데 하나로, 해결자에게 100만달러의 상금이 걸려 있다.
오픈AI는 최대 1만개의 AI 에이전트를 투입해 약 88시간 동안 문제 해결에 나섰다. 에이전트들은 인간이 축적한 기존 연구를 토대로 서로 수백만건의 메시지를 주고받으며 다양한 풀이 경로를 탐색한 것으로 전해졌다.
AI의 수학 능력은 최근 빠르게 발전하고 있다. 오픈AI는 지난 5월 1946년 수학자 폴 에르되시가 제기한 '평면 단위거리 문제'와 관련해 약 80년간 받아들여져 온 핵심 추측을 깨는 반례를 찾아냈다. 국제수학올림피아드(IMO)에서도 인간 금메달 수준의 성과를 낸 바 있다.
앤트로픽 역시 밀레니엄 문제 가운데 하나인 리만 가설 자체를 해결하지는 못했지만, 연구용 클로드 모델을 활용해 기존 연구보다 진전된 결과를 냈다고 밝힌 바 있다.
AI가 수학에서 빠르게 성과를 내는 배경에는 여러 풀이를 동시에 탐색하고 검증하는 대규모 추론 방식이 있다는 분석이 나온다. 수학자 한 명이 가설과 풀이법을 하나씩 검토하는 것과 달리 AI는 수십~수천개의 가능성을 병렬로 시험하고 실패한 경로를 빠르게 제거할 수 있다.
엄격한 논증이 요구되는 수학의 특성도 AI에 유리하게 작용한다. 학술지 '네이처 머신 인텔리전스'는 수학적 결과는 원칙적으로 검증이 비교적 용이하기 때문에 AI가 반복적인 시행착오를 통해 성능을 끌어올리기에 적합한 분야라고 분석했다.
그러나 필즈상 수상자들은 답을 빠르게 찾아내는 것 자체가 수학의 발전을 의미하지는 않는다고 강조했다.
이들은 난제가 오랫동안 “수학적 세계에 대한 이해가 얼마나 깊어졌는지를 보여주는 이정표이자 등대” 역할을 해왔다며, 난제를 푸는 과정에서 새로운 개념과 방법이 탄생하고 이를 강연과 토론을 통해 공동체가 이해하고 축적하는 과정이 중요하다고 설명했다.
AI의 영향이 수학에만 머물지 않을 수 있다는 우려도 제기했다. AI가 지식 노동의 업무 수행 방식을 빠르게 바꾸는 만큼 단순히 결과를 얻는 데만 집중할 경우 인간이 그 일을 통해 얻으려 했던 지식과 이해 자체가 약화될 수 있다는 것이다.
다만 수학자들은 AI 기술 자체를 부정하지는 않았다. AI가 수학 연구와 이해를 크게 향상시키고 연구 속도를 높일 가능성은 인정했다.
이들은 “AI가 궁극적으로 수학에 도움이 될지, 파괴적인 영향을 미칠지는 이 기술을 통제하는 인간의 결정에 달려 있다”고 강조했다.
서희원 기자 shw@etnews.com
