高通发布新一代AI芯片:AI200与AI250将重新定义数据中心AI推理架构
高通近日宣布推出面向数据中心的下一代AI推理优化解决方案,基于Qualcomm AI200与AI250芯片的加速卡及机架系统,旨在以业界先进的总体拥有成本(TCO)为高速数据中心提供生成式AI推理所需的机架级性能与卓越内存容量。
Qualcomm AI200专为机架级AI推理打造,为大语言模型(LLM)与多模态模型(LMM)推理及其他AI工作负载提供低总体拥有成本与优化性能。每张加速卡支持768GB LPDDR内存,实现更高内存容量与更低成本,为AI推理提供卓越的扩展性与灵活性。
更为引人注目的是Qualcomm AI250解决方案,该产品将首发基于近存计算(Near-Memory Computing)的创新内存架构,实现超过10倍的有效内存带宽提升并显著降低功耗,为AI推理工作负载带来能效与性能的跨越性提升。该架构支持解耦式AI推理,实现硬件资源的高效利用,同时满足客户性能与成本需求。
两款机架解决方案均支持直接液冷散热以提升散热效率,支持PCIe纵向扩展与以太网横向扩展,并具备机密计算功能,保障AI工作负载的安全性,整机架功耗为160千瓦。
根据高通规划,Qualcomm AI200与AI250预计将分别于2026年和2027年实现商用,有望为数据中心AI推理市场带来革命性变革。(Suky)
F5中国发布2025年三大策略:全面拥抱AI应用,积极拓展汽车等三大行业并拓展渠道伙伴发展2月5日消息,当前,生成式AI正以惊人速度重塑数字化体验,预计2025年,全球77%的企业将部署生成式AI以提升生产力;到2028年,84%的应用将成为AI应用或具备AI推理能力。全球多云应用安全和应用交付服务提供商F5近日发...
DeepSeek如何弯道大超车:震撼硅谷巨头“当我们所有人都在过圣诞的时候,一个中国实验室却发布了震撼世界的AI模型。这显然具有象征意义。长期以来,美国都在AI竞争中处于全球领先地位,但DeepSeek的最新模型却在改变这一格局。”ScaleAI的创始人兼CEO亚历...
Siri升级迟迟未到,消息称苹果AI投入犹豫不决、后续功能不再“画大饼”5月19日消息,在今日的一份关于苹果人工智能战略的新长篇报告中,彭博的马克・古尔曼(MarkGurman)详细描述了AppleIntelligence推出的许多战略失误。根据古尔曼的说法,苹果不太可能在今年的WWDC上花费大量时间谈论...
OpenAI否认ChatGPT侵犯作家版权,要求法院驳回部分指控8月31日消息,广受欢迎的人工智能聊天机器人ChatGPT的开发商OpenAI已要求旧金山联邦法院驳回包括喜剧演员莎拉・西尔弗曼(SarahSilverman)在内的作家提起的两起诉讼的部分指控,后者指控该公司侵犯了他们的版权。Op...
周鸿祎称留给谷歌的时间不多了 建议所有产品开源对抗OpenAI在本周的谷歌I/O204开发者大会上,谷歌发布了Gemini1.5Flash、文生图工具Imagen3以及视频生成模型Veo等一系列创新产品。然而,这场技术盛宴并未得到360集团创始人周鸿祎的完全认可。近日,周鸿祎通过微博发表长文,...
如何选购kawai电钢琴??2023年kawai选购攻略大全来了!
哈喽!最近有超多小伙伴问我:怎么选一台kawai性价比高的电钢琴?为了解决大家在选择kawai电钢的困惑,我专门...
苹果招募生成式AI人才 提供数十个大模型岗位
根据最新的招聘信息,苹果正在扩大其生成式人工智能领域的专业团队,并计划将这项技术应用于iPhone和iPad等...
昆仑万维旗下Opera生成式AI服务海外用户数突破100万
昆仑万维旗下Opera宣布,生成式AI服务Aria海外用户数突破100万。2023年5月24日,Opera正式推出生成式AI助理...
创始人王慧文退出 美团成AI公司光年之外唯一股东
8月7日消息,据国家企业信用信息公示系统显示,北京光年之外科技有限公司在近期完成工商变更,创始人王慧文...