'AI 추천 서비스' 최대 17배 빨라진다

국내 연구진이 온라인 서비스에 쓰이는 '인공지능(AI) 추천 기술'을 가속화하는 시스템 개발에 성공했다. 유민수 한국과학기술원(KAIST·총장 신성철) 전기 및 전자공학부 교수팀은 AI 기반 추천 알고리즘을 6배에서 최대 17배까지 가속화하는 시스템을 개발했다고 밝혔다.

AI 추천서비스는 딥러닝 기반 AI 기술로 사용자 이력이나 기록을 활용해 개인 맞춤형 추천 정보를 제공한다. 구글 광고 추천이나 페이스북 친구 추천, 아마존 상품 추천 등이 대표 사례다. 서비스 관건은 알고리즘 수행 시간이다. 실시간 서비스이어서 결과를 빠르게 도출하는 것이 이용자 만족도, 기업 이윤에 직결된다.

유민수 KAIST 교수팀이 개발한 AI 가속화 시스템 개요
유민수 KAIST 교수팀이 개발한 AI 가속화 시스템 개요

연구팀은 '메모리 중심 AI 가속기 컴퓨팅시스템'을 고안해 수행시간을 대폭 줄일 수 있게 했다. '메모리 병목현상'을 해소한 것이 솔루션 핵심이다. 메모리 병목현상은 연산 시 프로세서가 메모리에서 데이터를 가져오는 메모리 액세스 빈도 수, 데이터 전송량이 늘어 생기는 성능 병목현상이다. 제안시스템은 AI 가속기를 메모리 근처에 두는 프로세싱 인 메모리(PIM) 기술로 메모리 액세스 횟수와 데이터 전송량을 획기적으로 줄여준다.

연구팀은 지난해 하반기 관련 논문을 컴퓨터 시스템 구조 분야 최우수 국제 학술대회 '국제 마이크로 아키텍처 심포지엄(MICRO)'에 발표해 호평을 받았다. 지난해 9월에는 아시아권에서 유일하게 '페이스북 AI 시스템 패컬티 서밋'에 초청받았고, 엔비디아·AMD·ARM·IBM 등의 초청을 받아 연구 교류 기회도 가졌다.

유민수 KAIST 전기 및 전자공학부 교수
유민수 KAIST 전기 및 전자공학부 교수

연구팀은 이 기술이 여러 분야에 활용될 수 있다고 밝혔다. AI 추천 서비스 가속화로 시작했지만 메모리 중심 지능형 반도체를 개발하는 기초연구 기반으로도 활용할 수 있다는 설명이다.

유민수 교수는 “AI 연산을 가속화하는 방법론은 다양한 곳에 활용할 수 있다”며 “국내 기업과 긴밀히 협력해 우리나라가 AI 가속기 시장 판도를 주도할 수 있도록 노력하겠다”고 말했다.

대전=김영준기자 kyj85@etnews.com