KAIST, 최적화 문제해결 AI 개발

국내 연구진이 인공지능(AI) 난제 중 하나인 '과적합-과소적합 상층 문제'를 해결하는 원리를 뇌 기반 AI기술을 이용해 풀어냈다. 차세대 AI와 스마트 교육, 인지 행동치료 분야에 파급력이 클 전망이다.

한국과학기술원(KAIST)은 이상완 바이오 및 뇌공학과 교수팀, 김동재 박사, 정재승 교수 등이 이 같은 성과를 냈다고 5일 밝혔다. 과소적합-과적합 상층 문제는 AI모델이 상황 변화에 유동적으로 대응치 못하는 것을 뜻한다. 학습이 과할 경우, 주어진 문제에는 좋은 해답을 도출하지만 환경이 조금만 달라져도 성능이 크게 떨어진다. 이를 막기 위해 대충 학습하거나 구조가 복잡해지면 유사한 문제에도 안정된 성능을 내지만, 최대 성능은 낼 수 없다.

반면 사람의 뇌는 '예측 오차 하한선'이라는 한 가지 정보로 이를 해결한다. 전두엽, 특히 복외측전전두피질은 사용하는 문제 해결 방식으로 주어진 문제를 얼마나 잘 풀 수 있을지 기대치 한계를 추정하고, 상황에 맞춰 최적 해결전략을 선택한다. 상황 변화에 대응하는 유동성이 있다.

사람의 유동적 문제해결 방식을 모사하는 메타 강화학습 모델.
<사람의 유동적 문제해결 방식을 모사하는 메타 강화학습 모델.>

연구팀은 뇌 데이터, 확률과정 추론모형, 강화학습 알고리즘을 이용해 사람의 뇌가 문제를 해결하는 이론 틀을 마련하고, 유동적인 메타 강화학습 모델을 도출했다. 메타 강화학습 모델로 사람의 유동적 문제 해결 능력을 간접적으로 측정할 수 있고, 관련 능력을 향상시킬 수 있을 전망이다. 관련 원천 기술은 국내와 해외 특허 출원이 완료된 상태다. 연구팀은 이 기술을 이용, 실제 사람과 같은 유동성을 갖춘 AI 개발을 준비하고 있다. 이상완 교수는 “사람의 고위 수준 능력을 AI 이론 관점에서 형식화하는 연구로, 지능의 비밀을 하나씩 풀어나갈 수 있을 것”이라고 말했다.

김영준기자 kyj85@etnews.com