上海要求到2025年智算中心液冷占比超过50%,液冷渗透提速在即
日前,上海市通信管理局等11个部门联合印发《上海市智能算力基础设施高质量发展 “算力浦江”智算行动实施方案(2024-2025年)》(以下简称《方案》)提出,到2025年,本市智能算力规模超过30EFlops,占比达到总算力的50%以上。
其中,在绿色智算效能方面,《方案》要求到2025年,市新建智算中心PUE值达到1.25以下,存量改造智算中心PUE值达到1.4以下。智算中心内绿色能源使用占比超过20%,液冷机柜数量占比超过50%。
上海作为我国在建和在用算力规模居前的城市,此次《方案》具备明显的风向标意义。网宿科技子公司绿色云图运营总监徐明微对此表示,《方案》对液冷的部署比例要求,印证了液冷技术对AI算力的不可或缺,将带动液冷渗透率加速提升。
当前,AI大模型的火热引爆了各行业对智能算力的需求,据IDC预计,到2026年我国智算规模将达1271.4EFLOPS,未来CAGR达52.3%。
然而,伴随AI 计算需求持续提升,CPU、GPU等计算芯片朝高算力、高集成方向演进,随之而来的功耗和热量急剧攀升。传统的风冷散热已无法满足主流AI服务器的散热要求,液冷技术成为智算的必由之路。
徐明微指出,在机柜上架率不变的情况下,服务器功率上升导致单机柜功率显著增长,已经逼近风冷15 kW的散热极限。而液冷带走热量是同体积空气的近3000倍,导热能力是空气的25倍,可轻松拥有30kW以上的散热能力,并且通过去空调化可节省数据中心空间,提升单柜部署密度,提高数据中心单位面积利用率,满足AI时代高密算力的散热需求。
不仅是散热效率的提升,在能耗方面,液冷技术相较风冷还可节能30%,减少30%的碳排放,实现PUE值从1.4降至1.1左右的效果。
“以每台服务器100W的功耗为例,如果使用传统的风冷技术,每台服务器在工作的时候还需要额外制冷、再加上其他损耗,总功耗大约为140W。而使用液冷技术时,每台服务器在工作的时候首先把风扇拆除后,功率从原有的100W减少到90W,液冷的散热效率非常高,各种辅助功耗加上,最后总功耗大约为99W。”徐明微举例。
眼下,随着海内外竞逐大模型,各地智算“军备竞赛”正如火如荼进行。意识到液冷的重要性,包括芯片厂商、服务器厂商、IDC 企业、互联网厂商、运营商及政府等产业链多主体正在加速推进液冷技术的研发与应用布局。
在去年,中国移动、中国电信和中国联通三大基础电信运营商发布了《电信运营商液冷技术白皮书》,提出2025年50%以上IDC将采用液冷技术,率先为产业提出明确指引。
刚刚落幕的英伟达2024 GTC大会上,黄仁勋公布了由Grace Blackwell超级芯片GB200提供支持的服务器系统,该系统正是采用液冷散热。黄仁勋此前提到,浸没式液冷技术将是未来方向,将带动整片散热市场迎来全面革新。
而作为国内领先的液冷解决方案提供商,网宿科技旗下绿色云图近年来不断提升液冷技术的性能和效率,以满足高算力的散热要求,目前已在大型超算场景率先落地液冷方案。与此同时,绿色云图与产业链上下游积极合作,先后携手戴尔科技、英特尔等巨头,以进一步推动液冷规模化普及。
“大家现在有了一个普遍的共识,未来高算力必须用液冷技术。随着AI时代发展,服务器功率越来越高,液冷技术将成为主流,占据更大的比例。”徐明微表示。
造富神话破灭,AI公司排队卖身AI大模型不光有造富神话,同样也有破产、倒闭、求收购。2024年第二季度还没有结束,美国AI公司就开始倒闭热潮。曾经有10亿美元估值、180名员工、创造出StableDiffusion系列模型的明星创企StabilityAI,传出资金链断...
蚂蚁集团:聚力发展坚持科技创新,2023年科研投入211.9亿元6月13日,蚂蚁集团发布2023年可持续发展报告。报告显示,2023年蚂蚁集团科研投入达到211.9亿元,再创历史新高,蚂蚁科技投入的重点是人工智能和数据要素技术。蚂蚁集团董事长兼CEO井贤栋在报告致辞中说,面向未来,...
大模型创业:避开巨头锋芒,搞钱才是要紧事去年末,搜狗原CEO王小川只是体验了几次ChatGPT,就确信“AGI已经来了”。后来在创业者社区的一次线上交流会上,当几位AI领域的创业者仅从功能上定义ChatGPT的进步时,王小川又明确表态“大家把这件事想小了。”坚信...
小米AI实力再次得到验证,声音识别算法能力国际排名第一近日,小米自研声音识别算法取得最新进展,算法模型领先其他机构,性能国际排名第一。小米是在Google发布的AudioSet音频标记任务中获得的这一突破。它是音频标记任务影响力最大的数据集,被认为是声音领域的ImageNet...
Sora刷屏视频出现多处失误 OpenAI回应:正在积极改进自2月18日OpenAI发布文生视频AI工具Sora以来,其影响已逐渐渗透到科技圈、资本圈和影视圈等多个领域。众多专家和业内人士纷纷对其展开深入探讨,同时针对Sora目前存在的问题和不足也进行了深入研究。目前,Sora所生...
如何选购kawai电钢琴??2023年kawai选购攻略大全来了!
哈喽!最近有超多小伙伴问我:怎么选一台kawai性价比高的电钢琴?为了解决大家在选择kawai电钢的困惑,我专门...
苹果招募生成式AI人才 提供数十个大模型岗位
根据最新的招聘信息,苹果正在扩大其生成式人工智能领域的专业团队,并计划将这项技术应用于iPhone和iPad等...
昆仑万维旗下Opera生成式AI服务海外用户数突破100万
昆仑万维旗下Opera宣布,生成式AI服务Aria海外用户数突破100万。2023年5月24日,Opera正式推出生成式AI助理...
创始人王慧文退出 美团成AI公司光年之外唯一股东
8月7日消息,据国家企业信用信息公示系统显示,北京光年之外科技有限公司在近期完成工商变更,创始人王慧文...