삼성전자, 세계 최초 인공지능 결합 메모리 'HBM-PIM' 개발…"에코 시스템 구축 시동"

글자 작게 글자 크게 인쇄하기

삼성전자가 세계 최초로 인공지능(AI) 프로세서를 탑재한 신개념 메모리 반도체를 개발했다. 데이터를 읽거나 기록하는 장치로만 여겨진 메모리에 중앙처리장치(CPU)와 같은 연산 기능을 부여한 것으로, 메모리 반도체에 패러다임 변화를 몰고 올 지 주목된다.

삼성전자 HBM-PIM. <사진=삼성전자>
<삼성전자 HBM-PIM. <사진=삼성전자>>

삼성전자는 메모리 반도체와 AI 프로세서를 하나로 결합한 HBM-PIM을 개발했다고 17일 밝혔다.

PIM은 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 차세대 신개념 융합기술을 뜻한다.

삼성전자는 PIM 기술을 활용, 슈퍼컴퓨터(HPC)와 AI 등 초고속 데이터 분석에 활용할 수 있는 HBM-PIM을 개발했다.

기술적으로는 지난 2018년 1월 양산한 2세대 고대역폭 메모리 'HBM2 아쿠아볼트'에 AI 엔진을 탑재, HBM-PIM을 완성했다.

HBM-PIM의 특징은 기존 D램이 CPU에 데이터를 전달하는 역할을 하는 것과 달리 연산의 일부를 담당하는 데 있다.

기존 HBM(오른쪽)과 HBM-PIM 구조의 차이. <사진=삼성전자>
<기존 HBM(오른쪽)과 HBM-PIM 구조의 차이. <사진=삼성전자>>

최근 AI 응용 영역이 확대되고 기술이 고도화되면서 고성능 메모리에 대한 요구가 지속적으로 커져 왔지만 기존의 메모리로는 '폰 노이만' 구조의 한계에 부닥쳤다.

컴퓨터 대부분에서 활용되는 폰 노이만 구조는 CPU가 메모리로부터 명령어를 불러오고 실행하며, 그 결과를 다시 기억장치에 저장하는 작업을 순차 진행한다.

이 과정에서 CPU와 메모리 간에 주고받는 데이터가 많아지면 작업 처리가 지연되는 현상이 발생한다.

삼성전자는 이를 극복하기 위해 메모리 내부 각 뱅크(주기억장치를 구성할 때 최소 논리 단위)에 AI 엔진을 장착하고 병렬 처리를 극대화, 성능을 높였다.

또 HBM-PIM에 연산 처리 기능을 넣어 CPU와 메모리 간 데이터 이동 감소에 따른 시스템의 에너지 효율을 개선했다.

삼성전자에 따르면 AI 시스템에 HBM-PIM을 탑재할 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2배 이상 높아지고, 시스템 에너지는 70% 이상 감소된다.

이와 함께 기존 HBM 인터페이스를 지원해 HBM을 이용하는 고객들은 하드웨어(HW)나 소프트웨어(SW) 변경 없이 HBM-PIM을 탑재, AI 전용 시스템을 구축할 수 있다.

삼성전자는 D램 공정에서 HBM-PIM 제품화에 성공했으며, 최근 반도체 분야 세계 최고 권위를 자랑하는 학회 ISSCC에서 관련 논문을 공개했다.

삼성전자는 HBM-PIM 기술이 고성능컴퓨팅(HPC), 머신러닝 시스템 등 AI 시장에서 각광을 받을 것으로 보고 있다. 올 상반기 다양한 고객사의 AI 시스템에 제품을 탑재, 테스트 검증을 완료할 예정이다.

박광일 삼성전자 전무는 “HBM-PIM은 AI 가속기 성능을 극대화할 수 있는 업계 최초의 AI 맞춤형 PIM 솔루션”이라면서 “고객사와의 협력을 강화, PIM 생태계를 구축할 것”이라고 밝혔다.

강해령기자 kang@etnews.com