AI算力爆发带来散热挑战,液冷将成智算中心标配

suiyuan2024-01-16 17:41:16TechWeb.com.cn

步入2024年以来,从各品牌手机竞相接入大模型,到大众汽车全部车型搭载ChatGPT,再到京东工业上线采购大模型、万兴科技运用大模型创作短视频等,大模型正加速融入各个领域。

大模型的广泛落地,在为企业数字化带来革新和颠覆的同时,也给算力行业带来难题。

日前,在ABB电气创新周绿色数据中心论坛上,一众专家围绕“生成式AI为代表的算力需求带来的挑战和机遇”进行了深入探讨。

会上,网宿科技子公司绿色云图运营总监徐明微表示,大模型的训练、推理、交互都需要海量AI算力的支撑。随着AI算力需求爆发,带来服务器功耗增长,行业必须要应用新的技术来高效带走热量,液冷技术将成为最佳解决办法。

当前,AI算力已经成为我国算力发展的主要方向。IDC预测,到2026年中国智算规模将达到1271.4 EFLOPS,未来五年复合增长率达52.3%。与此同时,结合应用发展趋势,未来80%的场景都将基于人工智能,所占据的算力资源将主要由智算中心承载。

徐明微指出,智算意味着更高密度的算力基础设施建设,单机柜功率密度在40kW以上。而传统数据中心单机柜密度通常在8-10kW,且机房宽度不超过15米,面对智算新趋势,传统机房不仅在空间布局上受到限制,在散热方面更面临严峻挑战。 

在能耗结构上,众所周知的是,IT和空调制冷设备是数据中心的主要能耗来源,两者占到数据中心总能耗的85%。传统的数据中心以风冷技术为主流散热方式,而由于空气换热系数低、散热能力不足且受环境影响,风冷散热已无法满足高密度数据中心的散热需求。

对此,徐明微认为,智算中心必须导向液冷技术。液冷技术具有低能耗、高散热、节约空间、不受环境限制等特性,相较风冷系统PUE值在1.3-1.4左右,液冷系统可以降低PUE值到1.05-1.1,更能适配高密度、高算力的智算场景。

据悉,网宿科技子公司绿色云图是国内液冷领域的先行者,自2015年起便已投入对液冷技术的研究,目前累计已取得发明专利超过百项,多款液冷产品入选工信部权威节能目录。在应用方面,依托丰富的商用经验和领先的技术能力,绿色云图在高算力场景率先取得规模应用,不断落地标杆案例,比如绿色云图为武汉大学打造了液冷超算边缘数据中心,有效支撑其大规模数据处理和高性能计算需求。

“我们相信,随着未来高算力场景的不断涌现以及社会对节能要求越来越高,数据中心会更多地部署液冷技术。我们将持续深耕液冷,用更绿色的数据中心满足生成式AI为代表的算力需求。”徐明微表示。
 

传OpenAI预计不会向微软等投资者提供董事会席位

11月29日消息,根据内部消息,人工智能初创企业OpenAI重组后的董事会计划不引入外部投资者代表。这表明,新董事会将优先考虑确保人工智能技术的安全,而不是追求投资者的回报。虽然新董事会尚未正式就职,情况可能发...

消息称三星获英伟达AI芯片2.5D封装订单

4月8日消息,据韩国电子行业媒体TheElec报道,三星电子成功拿下了英伟达的2.5D封装订单。消息人士透露,三星的先进封装(AVP)团队将为英伟达提供Interposer(中间层)和I-Cube,这是其自主研发的2.5D封装技术,高带宽...

OpenAI宣布向未注册用户开放ChatGPT 但并不是最新版功能也有限制

4月2日消息,据外媒报道,当地时间周一是西方流传已久的愚人节,有不少人在当天开玩笑整蛊他人,也有部分看热闹不嫌事大的人将大公司当成整蛊的对象,传播一些用户期待但却不实消息,这也导致当天的很多消息会受到怀...

英特尔人工智能创新应用大赛完美收官 英特尔推动AI PC创新应用落地

5月11日,英特尔人工智能创新应用大赛总决赛暨颁奖典礼在北京举办。英特尔通过搭载英特尔®酷睿™Ultra处理器的AIPC设备和软件工具套件、开放的生态系统,帮助开发者在AIPC上进行创新应用开发并推动相关应用落地,让...

OpenAI宣布将通过更新解决GPT-4变懒问题 并降低GPT-3.5 Turbo价格

1月26日消息,据外媒报道,当地时间周四,美国人工智能研究公司OpenAI宣布,它将发布新模型,降低GPT-3.5Turbo的价格,并为开发人员引入管理API密钥和了解API使用情况的新方法。OpenAI表示,这些新模型包括:两款全...

上一篇:AI对话模式首次亮相!Bose推出全新Bose家庭娱乐扬声器Ultra
下一篇:微软CEO纳德拉:全球正在就人工智能形成广泛共识