엔비디아, AI 칩 '블랙웰'에 액체 냉각 도입…전력 소비 28% 절감 선언

엔비디아의 주력 AI용 반도체인 H100. 엔비디아 홈페이지 캡처

블랙웰 이미지. 엔비디아 제공

엔비디아가 차세대 인공지능(AI) 칩인 블랙웰의 출시를 앞두고, 데이터센터의 전력 소비를 획기적으로 줄이기 위한 액체 냉각 시스템을 도입할 것이라고 24일 발표했다. 이번 발표에서 엔비디아는 특히 온수를 활용한 냉각 방식을 채택해 서버 운영의 효율성을 극대화할 계획이라고 밝혔다.

엔비디아 측은 액체 냉각 방식이 기존의 공냉식 데이터센터 서버 대비 전력 소모를 최대 28%까지 절감할 수 있다고 강조했다. 공냉식 시스템에서는 냉각용 팬이 서버의 발열을 처리하는 반면, 액체 냉각 방식을 도입함으로써 팬 사용을 줄여 소음을 현저히 감소시킬 수 있다고 설명했다. 또한, 서버의 수명을 연장할 수 있는 점도 큰 장점으로 언급됐다.

액체 냉각 방식에서 발생하는 열기는 온수를 통해 처리되며, 이 과정에서 생성된 뜨거운 물은 추가적인 전력 생산 등 다른 용도로 활용될 가능성이 있다고 전했다. 이를 통해 엔비디아는 데이터센터 운영 비용을 절감하고 에너지 효율성을 높일 수 있는 방법들을 연구 중에 있다.

이번 블랙웰 칩은 특히 AI 학습 및 추론 과정에서 발생하는 열을 효율적으로 처리할 수 있는 냉각 시스템을 갖추고 있다. 엔비디아는 이전 모델인 B200에서도 일부 수냉식 설계를 도입한 바 있으며, 이번 블랙웰 칩에서도 이러한 기술을 더욱 발전시킬 계획이다.

아울러, 엔비디아는 블랙웰 칩이 메타의 AI 모델인 라마 3.1 70B와 비교했을 때 최대 50% 높은 성능을 제공할 수 있다고 밝혔다. 또한, 내년에 출시될 블랙웰 울트라 모델에서는 메모리 용량이 확대되고 추가적인 컴퓨팅 기능이 탑재될 예정이라고 덧붙였다. 이어서 루빈 및 루빈 울트라 모델로의 진화를 예고하며, 향후 AI 칩 시장에서의 경쟁력을 더욱 강화할 계획을 내비쳤다.