[창간기획]'아스트라'가 더한 메모리 숙제…HBF 중요성 커진다

D램 기반 고대역폭메모리(HBM)에 집중되던 인공지능(AI) 반도체 메모리 경쟁 무대가 낸드플래시로 빠르게 확장하고 있다.

특히 AI 에이전트 모델 진화는 낸드 기반 고대역폭플레시(HBF) 필요성을 더욱 키우는 요인으로 꼽힌다. 발열 문제로 기존 HBM 층을 무한정 늘리기가 어렵고 AI가 필요로 하는 데이터양도 감당이 어렵기 때문이다.

이에 HBM과 HBF를 함께 활용하는 새로운 메모리 계층이 AI 인프라의 주요 축으로 부상할 것이란 전망이 나온다.

김정호 KAIST 전기및전자공학부 교수는 “AI가 학습에서 추론 중심으로 진화하면서 D램뿐만 아니라 낸드플래시의 역할도 크게 확대될 것”이라며 “HBF가 HBM 대체가 아닌 보완적 역할을 할 것”이라고 설명했다.

HBF는 낸드플래시를 수직으로 쌓아 대역폭과 용량을 높인 메모리다. D램을 쌓아 데이터 전송 속도를 끌어올린 HBM과 구조는 비슷하다. D램보다 속도는 느리지만 용량이 큰 낸드플래시 강점을 활용한 개념이다. 기존 솔리드스테이트드라이브(SSD)보다 가까이에서 빠르게 데이터를 공급할 수 있는 것도 장점이다.

김 교수는 HBM의 기본 개념과 구조를 제시한 연구자로, 현재 KAIST 테라랩에서 HBF를 비롯한 차세대 AI 메모리 구조를 연구하고 있다.

최근 오픈AI가 공개한 차세대 에이전트 '아스트라(Astra)'의 등장도 HBF 필요성을 키우는 요인으로 꼽힌다. AI가 처리해야 할 데이터가 많아질수록 GPU 성능만 높이는 데는 한계가 있어, 대용량 데이터를 빠르게 공급할 수 있는 메모리의 중요성이 더 커지고 있기 때문이다.

학계에서는 HBF와 HBM이 함께 쓰이는 구조가 유력하다고 보고있다. 용량과 비용측면에서 강점이 있는 HBF와, 지연시간 속도에 유리한 HBM의 강점이 각각 필요하면서다.

김 교수는 “HBF만으로는 성능이 상당히 제한돼 충분한 속도가 나오기 어렵기 때문에 HBM과 함께 쓰는 구조가 채택될 가능성이 높다”고 설명했다.

업계에서 HBF 상용화 시점은 2027년 말이 유력하게 거론된다. HBM에서 이미 확보한 TSV(실리콘관통전극), 다이 적층, 패키징 기술 상당 부분을 활용할 수 있어 개발 기간을 단축할 수 있다는 분석이다.

김 교수는 “상용화 시점은 낸드 특성에 맞는 베이스다이와 컨트롤러 설계 시점을 고려하면 2027년 말이 될 것으로 본다”고 말했다.

HBF 상용화를 위한 표준화 작업도 이미 시작됐다. SK하이닉스와 샌디스크는 지난 8월 오픈컴퓨트프로젝트(OCP)를 통해 업계 최초 HBF 표준 규격을 공개했다.

규격은 낸드 다이를 8단과 16단으로 쌓는 구성을 기준으로 최대 512기가바이트(GB) 용량을 지원한다. 대역폭은 등급에 따라 초당 약 0.4테라바이트(TB)에서 최대 3.0TB로 정의됐다. SK하이닉스와 샌디스크는 HBF 표준화에서 협력, 제품 개발은 각각 진행한다는 방침이다. 삼성전자도 관련 기술을 독자적으로 개발하고 있다.

업계에서는 HBF의 기술적 구현 자체는 이미 상당 부분 마무리된 단계로 보고 있다. 관건은 기술 완성도가 아니라 수요라는 분석이다. 낸드 기반 메모리 기업들이 이미 준비를 마쳤더라도 실제 양산 규모는 결국 최종 수요처의 결정에 달려 있다.

구글·메타·AMD 등이 1세대 HBF를 엔비디아보다 먼저 도입할 가능성이 있다는 관측이 나온다. 엔비디아는 초기에는 기존 낸드 스토리지를 고속 인터커넥트로 연결하는 방식을 병행하고, HBF 생태계와 성능 검증이 이뤄진 이후 참여할 가능성이 있다는 분석이다. 관건은 엔비디아의 채택이다.

업계 관계자는 “엔비디아가 HBF까지 사용하면 삼성전자와 SK하이닉스 등 메모리 업체에 대한 의존도가 더 높아질 수 있어 1세대 제품을 당장 도입하기는 부담스러울 수 있다”며 “엔비디아가 본격적으로 HBF를 채택하는 시점이 시장 확대의 중요한 분기점이 될 것”이라고 덧붙였다.

HBF 시장 확대는 국내 반도체 산업에는 새로운 기회가 될 전망이다. 특히 HBF가 HBM과 함께 사용되는 구조에선 삼성전자와 SK하이닉스가 유리한 위치를 점하고 있다. 두 회사 모두 HBM과 낸드플래시를 자체 개발·생산하고 있어, HBM의 고속 처리 능력과 HBF의 대용량 저장 능력을 함께 활용하는 메모리 구조에 대응하기 쉽기 때문이다.

후공정 장비 생태계에서는 HBF가 본격화되면 HBM 공정에서 이미 검증된 적층·본딩 기술을 상당 부분 재활용할 수 있을 것으로 본다. HBM 공정에 쓰인 열압착본딩 등 적층 기술이 HBF 초기 제품에도 그대로 활용될 가능성이 크고, 이후 낸드 고유의 전력·발열 특성에 맞춘 전용 본딩 방식이 새롭게 적용되는 단계로 넘어갈 것이라는 전망이다.

하나의 패키지 안에서 HBM과 HBF를 동시에 적층·본딩하는 구조가 본격화하면 새로운 패키징 장비 시장이 형성될 가능성도 있다.

더나아가 현재 기업용 SSD(eSSD)가 담당하는 데이터 일부도 HBF와 같은 프로세서 인접형 메모리로 이동할 가능성이 제기된다. AI 서버가 스토리지에서 데이터를 가져와 GPU로 전달하는 기존 구조보다 HBM과 HBF를 연산 장치 가까이에 배치하면 데이터 이동에 따른 전력 소모와 병목을 줄일 수 있기 때문이다.

박유민 기자 newmin@etnews.com