AI算力爆发带来散热挑战,液冷将成智算中心标配
步入2024年以来,从各品牌手机竞相接入大模型,到大众汽车全部车型搭载ChatGPT,再到京东工业上线采购大模型、万兴科技运用大模型创作短视频等,大模型正加速融入各个领域。
大模型的广泛落地,在为企业数字化带来革新和颠覆的同时,也给算力行业带来难题。
日前,在ABB电气创新周绿色数据中心论坛上,一众专家围绕“生成式AI为代表的算力需求带来的挑战和机遇”进行了深入探讨。
会上,网宿科技子公司绿色云图运营总监徐明微表示,大模型的训练、推理、交互都需要海量AI算力的支撑。随着AI算力需求爆发,带来服务器功耗增长,行业必须要应用新的技术来高效带走热量,液冷技术将成为最佳解决办法。
当前,AI算力已经成为我国算力发展的主要方向。IDC预测,到2026年中国智算规模将达到1271.4 EFLOPS,未来五年复合增长率达52.3%。与此同时,结合应用发展趋势,未来80%的场景都将基于人工智能,所占据的算力资源将主要由智算中心承载。
徐明微指出,智算意味着更高密度的算力基础设施建设,单机柜功率密度在40kW以上。而传统数据中心单机柜密度通常在8-10kW,且机房宽度不超过15米,面对智算新趋势,传统机房不仅在空间布局上受到限制,在散热方面更面临严峻挑战。
在能耗结构上,众所周知的是,IT和空调制冷设备是数据中心的主要能耗来源,两者占到数据中心总能耗的85%。传统的数据中心以风冷技术为主流散热方式,而由于空气换热系数低、散热能力不足且受环境影响,风冷散热已无法满足高密度数据中心的散热需求。
对此,徐明微认为,智算中心必须导向液冷技术。液冷技术具有低能耗、高散热、节约空间、不受环境限制等特性,相较风冷系统PUE值在1.3-1.4左右,液冷系统可以降低PUE值到1.05-1.1,更能适配高密度、高算力的智算场景。
据悉,网宿科技子公司绿色云图是国内液冷领域的先行者,自2015年起便已投入对液冷技术的研究,目前累计已取得发明专利超过百项,多款液冷产品入选工信部权威节能目录。在应用方面,依托丰富的商用经验和领先的技术能力,绿色云图在高算力场景率先取得规模应用,不断落地标杆案例,比如绿色云图为武汉大学打造了液冷超算边缘数据中心,有效支撑其大规模数据处理和高性能计算需求。
“我们相信,随着未来高算力场景的不断涌现以及社会对节能要求越来越高,数据中心会更多地部署液冷技术。我们将持续深耕液冷,用更绿色的数据中心满足生成式AI为代表的算力需求。”徐明微表示。
11月29日消息,根据内部消息,人工智能初创企业OpenAI重组后的董事会计划不引入外部投资者代表。这表明,新董事会将优先考虑确保人工智能技术的安全,而不是追求投资者的回报。虽然新董事会尚未正式就职,情况可能发...
消息称三星获英伟达AI芯片2.5D封装订单4月8日消息,据韩国电子行业媒体TheElec报道,三星电子成功拿下了英伟达的2.5D封装订单。消息人士透露,三星的先进封装(AVP)团队将为英伟达提供Interposer(中间层)和I-Cube,这是其自主研发的2.5D封装技术,高带宽...
OpenAI宣布向未注册用户开放ChatGPT 但并不是最新版功能也有限制4月2日消息,据外媒报道,当地时间周一是西方流传已久的愚人节,有不少人在当天开玩笑整蛊他人,也有部分看热闹不嫌事大的人将大公司当成整蛊的对象,传播一些用户期待但却不实消息,这也导致当天的很多消息会受到怀...
英特尔人工智能创新应用大赛完美收官 英特尔推动AI PC创新应用落地5月11日,英特尔人工智能创新应用大赛总决赛暨颁奖典礼在北京举办。英特尔通过搭载英特尔®酷睿™Ultra处理器的AIPC设备和软件工具套件、开放的生态系统,帮助开发者在AIPC上进行创新应用开发并推动相关应用落地,让...
OpenAI宣布将通过更新解决GPT-4变懒问题 并降低GPT-3.5 Turbo价格1月26日消息,据外媒报道,当地时间周四,美国人工智能研究公司OpenAI宣布,它将发布新模型,降低GPT-3.5Turbo的价格,并为开发人员引入管理API密钥和了解API使用情况的新方法。OpenAI表示,这些新模型包括:两款全...
外媒:苹果正在全球范围内寻找生成式人工智能人才
8月7日消息,据外媒报道,苹果公司正在全球范围内寻找生成式人工智能(AI)人才。随着OpenAI旗下AI聊天机器...
苹果计划使用富士康供应的专用服务器测试人工智能服务
据udn援引南华早报的消息,富士康将独家向苹果供应用于训练和测试人工智能服务的专用服务器。由于苹果计划...
外媒称苹果将采用富士康服务器训练和测试人工智能服务
8月9日消息,据外媒报道,在OpenAI训练的人工智能聊天机器人ChatGPT大火之后,谷歌等多家公司加入了生成式...
英伟达在人工智能技术领域的领导地位和近乎垄断的地位「令人震惊」
英伟达日前展示了其新的人工智能处理器芯片GH200,并推出了AIWorkbench功能,供客户开发自己的大型语言模型...