KAIST, 'CXL 2.0' 메모리 확장 플랫폼 세계 최초 개발...AI 시대 이끈다

한국과학기술원(KAIST·총장 이광형)은 정명수 전기 및 전자공학부 교수팀(컴퓨터 아키텍처 및 메모리 시스템 연구실)이 대용량 메모리 장치, 프로세스를 포함한 컴퓨트 익스프레스 링크(CXL) 2.0 기반 차세대 메모리 확장 플랫폼 '다이렉트CXL(DirectCXL)'을 세계 최초 프로토타입 제작, 운영체제(OS)가 포함된 단대단(End-to-End) 시연에 성공했다고 1일 밝혔다.

연구팀이 제안하는 다이렉트CXL 프로토타입.
연구팀이 제안하는 다이렉트CXL 프로토타입.

오늘날 데이터 센터는 대규모 데이터 기반 응용처리를 더 빠르고 효율적으로 처리하는 시스템 메모리 확장에 투자하고 있다.

그러나 더블 데이터 대역폭(DDR) 인터페이스를 통한 메모리 확장은 추가 메모리 제한이 있다. 따라서 데이터 센터에서는 CPU·메모리로 이뤄진 메모리 노드를 따로 구성하고, 이를 메모리 공간으로 사용하는 원격 데이터 전송 기술(RDMA) 기반 메모리 확장을 사용하는데, 여전히 문제가 있다. 데이터 이동 시 지연과 성능 저하가 발생한다. 또 메모리 제어 CPU가 추가돼야 해 추가 비용 소모가 발생했다.

기존보다 고성능, 확장성을 지원하는 CXL 프로토콜이 문제 해결 가능성을 보이며 CXL 2.0이 발표되기도 했다. 다만 아직 2.0 시제품 개발 및 연구가 진행되지 않고 있다.

연구팀이 세계 최초로 제작한 프로토타입 CXL 2.0 기반 메모리 확장 플랫폼 '다이렉트CXL'은 높은 메모리 확장성을 제공하며 빠른 속도로 대규모 데이터 처리를 가능하게 한다. 연구팀은 메모리를 확장해 줄 'CXL 메모리 장치'와 호스트 'CXL 프로세서 (CPU)', 여러 호스트를 다수 CXL 메모리 장치에 연결하는 'CXL 네트워크 스위치', 플랫폼 전반을 제어할 리눅스 운영체제 기반 'CXL 소프트웨어(SW) 모듈'을 개발해 플랫폼을 구성했다.

시스템에는 확장 메모리 공간에 직접 접근해 불필요한 메모리 복사와 SW 개입이 없다. 프로토콜 전환을 없애 지연시간을 최대한 줄였다. 또 추가 CPU가 필요 없는 CXL 메모리 장치를 CXL 스위치에 연결하는 것만으로 메모리 확장이 가능해 효율적 시스템 구성이 가능했다. CXL 2.0 기반, CPU부터 CXL 스위치, 메모리 장치가 장착된 시스템에서 OS를 동작시키고 데이터 센터와 응용을 실행하고 시연한 것은 연구팀이 처음이다.

정명수 KAIST 전기 및 전자공학부 교수
정명수 KAIST 전기 및 전자공학부 교수

연구팀은 다이렉트CXL 확장 메모리 접근 시간 검증에서 기존 RDMA 기반 메모리 확장 솔루션 대비 8.3배 향상을 보였다. 그래프 응용처리 및 인 메모리 데이터베이스 응용처리에서도 각각 2.3배, 2배 성능 향상을 이뤄냈다.

정 교수는 “다이렉트CXL은 적은 비용으로 고성능·고확장성을 제공해 데이터센터나 고성능 컴퓨팅 시스템에서 수요가 크다”며 “향후 CXL 활용 시스템 구축에 초석을 제공할 것”이라고 말했다.

한편 이번 연구는 미국 칼스배드에서 지난 7월 열린 시스템 분야 최우수 학술대회 유즈닉스 연례 회의 'USENIX Annual Technical Conference, 2022'에 발표됐다. 또 미국 산호세에서 열리는 8월 2~3일 플래시 메모리 정상회담에서 CXL 컨소시움이 이끄는 CXL포럼에 발표될 예정이다.

자세한 내용은 연구실 웹사이트에서 확인할 수 있다. 메타(페이스북) 추천시스템 기계학습 데이터 가속 시연 영상을 연구실 유튜브 에서 확인할 수 있다. 기존 데이터 센터 원격 메모리에 비해 3.2배 이상 사용자 수준 성능 향상을 보여주고 있다.

김영준기자 kyj85@etnews.com