生成式AI和各种大模型给我们带来全新的应用体验,也对算力提出了更高的需求。对于数据中心运营管理者而言,由于GPU服务器的功率密度大幅提升,对数据中心的制冷设备和技术提出了更高要求。因此,他们除了关注算力本身之外,也更加关注数据中心功耗与散热所带来的各种问题。
一、AI算力驱动数据中心散热方式变革
在AI算力需求的强力驱动下,数据中心GPU服务器的数量大幅增加,所带来的功耗问题日益突显。我们知道,数据中心单机柜风冷的极限总功率为15kW,在机柜上架率不变下,GPU服务器所带来的功率增长已经逼近单机柜的极限值。然而,GPU的功耗还在不断地增长。
今年NVIDIA GTC2024上,英伟达正式发布了GB200旗舰级GPU,这款产品包括两个 GPU内核,每个内核功耗约为1200W,同时还拥有两个Arm CPU,功耗在300W左右,那么仅仅这个产品的总功耗就达到了恐怖的 2700W左右。不难发现,面对高功耗高密度场景,传统的风冷显然已经无法满足能耗和散热需求,液冷技术以超高能效、超高热密度等特点,成为智算中心温控解决方案的必选项。
根据IDC的预测,2022-2027年,中国液冷服务器市场年复合增长率将达到54.7%,2027年市场规模将达到89亿美元。
北京最新发布的《北京市算力基础设施建设实施方案(2024—2027年)》对智算中心运营绿色化提出了明确的指导意义,指出本市新建和改扩建智算中心PUE值一般不超过1.25,年能耗超过3万吨标煤的大规模先进智算中心PUE值一般不超过1.15。推进本市存量数据中心升级改造,到规划期末所有存量数据中心PUE值均不高于1.35。
今年初,上海市通信管理局等11个部门联合印发《上海市智能算力基础设施高质量发展 “算力浦江”智算行动实施方案(2024-2025年)》(以下简称《方案》)提出,到2025年,本市智能算力规模超过30EFlops,占比达到总算力的50%以上。其中,在绿色智算效能方面,《方案》要求到2025年,市新建智算中心PUE值达到1.25以下,存量改造智算中心PUE值达到1.4以下。智算中心内绿色能源使用占比超过20%,液冷机柜数量占比超过50%。
实际上,浪潮、曙光、联想等服务器厂商都在先后投入到液冷技术的研发上,并推出了自己的专利产品。
二、液冷散热系统的主要优势与不足
液冷散热系统的主要优势在于较高的散热效率和更低的能耗。
我们知道,在传统风冷数据中心中,用于设备制冷散热的能耗高达40%,且散热效率并不高。受其限制,数据中心常规风冷一般设计为8-10kW的单机柜密度。由于液冷技术的导热能力是空气的25倍,带走热量是同体积空气的近3000倍,可轻松拥有30kW以上的单机柜密度。