하나의 칩 내부에 메모리와 프로세서 연산기를 집적한 차세대 인공지능(AI) 반도체다. 메모리와 프로세서가 분리되어 있는 기존 컴퓨팅 구조(폰 노이만 구조)에서 발생하는 데이터 병목현상 및 과다한 전력소모 문제를 해결할 수 있다.
폰노이만 구조에서는 메모리와 연산장치 간에 전송되는 데이터가 많아지면 작업 처리가 지연됐다. 그러나 '프로세싱 인 메모리'(PIM; Processing-In-Memory)는 메모리 영역에서 데이터 연산이 동시에 가능, 처리 속도를 높이고 전력 소모량도 30배 이상 아낄 수 있다. 메모리와 연산 작업을 가까운 곳에서 처리하는 것을 넘어 아예 한 장소에 배치해서 데이터 병목 현상을 없앤 것이다.
PIM은 높은 데이터 처리 성능과 저전력으로 말미암아 챗GPT와 같은 초거대 인공지능(AI) 인프라를 위한 필수 하드웨어(HW)가 될 것으로 기대를 모으고 있다.
우리나라에서는 과학기술정보통신부와 한국과학기술원(KAIST)이 트리플-모드 셀 기반 PIM을 개발했다. 하나의 반도체 셀 내에 메모리 저장 장치 위주로만 구성되던 셀 내부에 연산장치를 추가했다. 메모리, 연산기, 데이터변환기가 동적으로 변환되며 작동하는 게 핵심 특징이다. PIM 분야 경쟁력을 확보하는 기업이 차세대 반도체 패러다임을 주도할 '게임체인저'로 주목받고 있다.
박지성기자 jisung@etnews.com
