亚马逊AWS将部署Cerebras晶圆级AI芯片CS-3,与自家Trainium配套使用

yezipiaolin2026-03-16 09:53:24IT之家

3 月 16 日消息,亚马逊 AWS 与晶圆级 AI 芯片企业 Cerebras 美国当地时间本月 13 日宣布,亚马逊的 Amazon Bedrock 平台在未来数月将部署结合双方芯片产品的混合 AI 推理系统,带来最快的负载处理速度。

这一解决方案将结合 Cerebras 的 CS-3 系统、亚马逊 AWS 的 Trainium 芯片和亚马逊 AWS 的 EFA 弹性网络适配器,由 Trainium 芯片负责推理的预填充(提示处理),而 CS-3 则承担解码(输出生成任务),两者通过 EFA 连接在一起。

了解到,推理预填充属于并行工作负载,要求大算力和适中的内存带宽;推理解码本质上是串行的,算力要求较小但内存带宽要求高。组合使用 Trainium 和 CS-3 能发挥两款 AI 芯片各自的长处,提供最佳的最终用户体验。(溯波)

马斯克宣布Grok 3即将推出:已完成预训练 计算量超Grok 2十倍

快科技1月5日消息,马斯克在社交平台宣布:Grok3即将推出,已完成预训练,其计算量比Grok2高10倍。作为马斯克麾下社交媒体平台X的强大后盾,Grok系列模型一直以其卓越的生成式人工智能技术引领潮流。xAI公司自马斯克...

AI新贵Perplexity提议345亿美元收购谷歌Chrome

8月13日消息,据外媒报道,在OpenAI训练的生成式人工智能聊天机器人ChatGPT大火、越来越多的厂商发力生成式人工智能、用户也越来越多之后,外界就曾预计谷歌等厂商的搜索业务将面临冲击,而在OpenAI宣布测试AI搜索原...

苹果发力对话式AI 预算扩至每日数百万美元

9月7日消息,据外媒援引知情人士透露,苹果始终在增加构建人工智能所需计算的预算,并且已经扩大到每天数百万美元。该公司的一个目标是开发一些功能,允许iPhone用户使用简单的语音命令来自动执行涉及多个步骤的任务...

苹果发布M5芯片MacBook Pro 存储容量最高4TB售价12999元起

10月16日消息,据外媒报道,苹果公司在当地时间周三,如外媒报道的那样推出了搭载M5芯片的新一代MacBookPro,在速度更快的M系列芯片的加持下,新一代MacBookPro的AI性能大幅提升,但售价并未发生变化,仍与去年10月...

奖金最高10万元!天工“巧绘龙年”AI绘画大赛开赛

2月8日消息,由昆仑万维「天工AI智能助手」主办的“巧绘龙年”AI绘画大赛正式开赛。即日起,用户在手机应用市场免费下载「天工AI智能助手」APP,使用其中“AI绘画”功能绘制作品并投稿至大赛专区,即有机会获得最高1...

TAG:AI 亚马逊
上一篇:AI长出手和脚,中企们夯爆了
下一篇:古尔曼:Siri和AI短板导致苹果智能家居产品计划再度被拖累