서울 영등포구에 위치한 NHN 팩토리X(NHN FactoryX) 서울 데이터센터 6층 데이터홀에 들어서자 검은색 그래픽처리장치(GPU) 랙이 일정한 간격을 두고 길게 줄지어 선 모습이 먼저 눈에 들어왔다. 수많은 장비가 돌아가는 '윙' 소리가 공간을 가득 채웠고, 벽면에서는 서늘한 바람이 끊임없이 불었다.
6일 방문한 NHN 팩토리X는 NHN클라우드의 AI 인프라 운영을 위한 핵심 거점으로, 고성능 컴퓨팅 인프라를 운영하는 인공지능 데이터센터(AIDC)다. 정부 사업을 통해 조성된 AI 인프라로 엔비디아 B200 GPU 총 7656장을 기반으로 구축됐다.
글로벌 인프라 투자사 액티스가 투자한 데이터센터에 위치해 있으며, 전체 데이터센터의 절반인 3층부터 6층까지를 활용한다. NHN 팩토리X 3~5층은 정부 AI 컴퓨팅 자원을 운영하는 공간이며 6층은 NHN클라우드 자체 AI 클라우드 서비스와 GPU 인프라 운영에 활용한다. 전체 IT 로드는 13㎿ 규모다.
특히 3·4층에는 B200 GPU 4080장(510노드)을 하나의 연산 환경으로 연결한 클러스터1이 구축됐다. 해당 클러스터1은 글로벌 슈퍼컴퓨터 성능 순위 TOP500에서 세계 20위를 기록했다. 5층에는 2040장(255노드) 규모의 클러스터가 자리한다. 6층은 192노드 규모다.
해당 데이터센터는 대규모 엔비디아 B200 GPU를 운용하기 위해 수랭 냉각 방식을 활용한 점이 특징이다. 전 층에 직접수랭식(DLC) 냉각 방식을 적용했다. GPU와 중앙처리장치(CPU) 등에 콜드 플레이트를 직접 접촉시키고 액체 냉매를 순환시켜 열을 빼내는 방식이다.
이일준 NHN클라우드 이사는 “대규모 GPU 자원을 수랭 냉각 기반으로 운영하는 것은 국내서 NHN클라우드가 처음일 것”이라며 “서버에서 발생하는 열의 약 70~80%를 GPU와 CPU가 차지하는 만큼 이들 부품은 수랭으로 냉각하고, 메모리와 네트워크 카드, 인피니밴드 스위치, 스토리지 등은 공랭으로 식히는 방식”이라고 설명했다.
이 이사는 수랭 적용으로 GPU 서버의 전력 소비를 줄일 수 있다고 강조했다. B200 장비는 공랭 방식에서는 약 14.3㎾의 전력을 요구하지만 수랭 적용 시 약 12.3㎾까지 낮아진다는 설명이다.
한편에 마련된 데이터센터 관제실에서는 직원들이 GPU와 네트워크 상태 등을 대형 모니터를 통해 실시간으로 확인·관리하고 있었다. 장비 사용률과 장애 여부를 비롯해 네트워크, 스토리지, 데이터센터 환경 등을 감시한다. GPU가 장시간 가동되는 만큼 데이터센터 관제실은 24시간 운영된다.
이 이사는 “냉각수가 제때 공급되지 않거나 온도가 과도하게 높아지면 GPU 발열을 제대로 식히지 못해 성능이 떨어질 수 있다”며 “온도가 더 올라가면 GPU가 스스로 셧다운하기 때문에 냉각수 온도와 압력, 유량, 누수 여부까지 별도로 모니터링하고 있다”고 설명했다.
보안 체계도 철저히 갖췄다. 정부 사업의 보안 요구사항을 반영하기 위해 네트워크를 기존 NHN클라우드 환경과 별도로 구성했으며 방화벽과 디도스(DDoS) 대응 장비, 공격 패턴 탐지 및 차단(IPS), 관리 UTM 등을 기반으로 계층적 방어 체계를 구축했다.
강성전 기자 castlekang@etnews.com
