英伟达AI服务器功耗激增:8年内预计增长100倍,成“电老虎”
行业分析师 Ray Wang 在 X 平台上发布推文,指出英伟达的 AI 服务器功耗正以惊人的速度增长。从 Ampere 架构到即将到来的 Kyber 架构,英伟达的机架级解决方案功耗预计在短短八年内将增长100倍。
博文介绍,英伟达机架功耗的大幅增长主要受两大因素驱动:一是每个机架集成的 GPU 数量显著增加;二是每一代 GPU 的热设计功耗(TDP)也在不断上升。以 Hopper 架构和最新的 Blackwell 架构为例,服务器机箱功耗从大约10千瓦增长到近120千瓦。
为了满足行业对算力的不断需求,英伟达在技术上持续突破,但其能耗的增长速度同样令人瞩目。除了硬件本身,NVLink / NVSwitch 互连技术、新一代机架设计以及持续高负载的运行模式也是导致能耗攀升的原因。
此外,大型科技公司正在展开一场以“吉瓦”(GW)为衡量标准的算力竞赛。例如,OpenAI 和 Meta 等公司计划在未来几年内新增超过10吉瓦的计算能力,这标志着 AI 基础设施的规模已达到新的量级。
“吉瓦级”的功耗意味着一个超大规模数据中心消耗1吉瓦的电力,足以供应约100万户美国家庭的用电需求。而当这些巨型数据中心在全球各地建成后,单个设施的耗电量可能相当于一个中等规模国家或美国几个大州的总和。
国际能源署(IEA)在其研究报告中预测,到2030年,仅人工智能一项就可能导致全球电力消耗翻倍,其增长速度几乎是电网扩张速度的四倍。这种大规模数据中心的建设潮可能还会导致周边地区居民用电成本的上升。
曝苹果进军机器人行业:最快2028年量产2月13日消息,分析师郭明錤发文表示,苹果正在为未来的智慧家庭生态研究人形与非人形机器人,目前这些产品仍处于内部的概念验证(POC)阶段。当业界还在争论人形和非人形设计谁能胜出时,供应链研究指出,苹果更重视...
Meta、微软承诺购买AMD新型人工智能芯片 作为英伟达GPU替代品12月7日消息,当地时间周三Meta、OpenAI和微软在AMD投资者活动上表示,他们都将使用AMD最新开发的人工智能芯片InstinctMI300X。这表明,虽然英伟达的GPU芯片对于开发和部署ChatGPT等人工智能程序至关重要,但很多科...
OpenAI宣布成立安全与安保委员会,并启动下一代前沿模型训练5月29日消息,OpenAI宣布董事会成立安全与安保委员会,负责就OpenAI项目和运营的关键安全与保障决策提出建议。该委员会目前首要任务是在未来90天内评估并进一步制定OpenAI发展流程和保障措施。90天结束后,安全与保...
腾讯QQ开始测试AI对话功能,名为“AI聊天搭子”IT之家3月6日消息,Tech星球发现,腾讯现为QQ推出了一个AI对话功能,名为“AI聊天搭子”,由QQ联合筑梦岛、混元助手合作提供服务,目前已经开启测试,但IT之家暂未获取到测试资格。除此之外,抖音也上线了一款名为“...
应对GPT-5需求增长,OpenAI CEO奥尔特曼公布算力分配计划8月12日消息,OpenAICEO萨姆・奥尔特曼(SamAltman)在X上表示:鉴于GPT-5带来的需求激增,OpenAI在未来几个月的算力优先分配如下:1、首先确保当前付费版ChatGPT用户的总可用量比GPT-5推出前更多。2、其次优先满足A...
如何选购kawai电钢琴??2023年kawai选购攻略大全来了!
哈喽!最近有超多小伙伴问我:怎么选一台kawai性价比高的电钢琴?为了解决大家在选择kawai电钢的困惑,我专门...
苹果招募生成式AI人才 提供数十个大模型岗位
根据最新的招聘信息,苹果正在扩大其生成式人工智能领域的专业团队,并计划将这项技术应用于iPhone和iPad等...
昆仑万维旗下Opera生成式AI服务海外用户数突破100万
昆仑万维旗下Opera宣布,生成式AI服务Aria海外用户数突破100万。2023年5月24日,Opera正式推出生成式AI助理...
创始人王慧文退出 美团成AI公司光年之外唯一股东
8月7日消息,据国家企业信用信息公示系统显示,北京光年之外科技有限公司在近期完成工商变更,创始人王慧文...