亚马逊AWS将部署Cerebras晶圆级AI芯片CS-3,与自家Trainium配套使用
3 月 16 日消息,亚马逊 AWS 与晶圆级 AI 芯片企业 Cerebras 美国当地时间本月 13 日宣布,亚马逊的 Amazon Bedrock 平台在未来数月将部署结合双方芯片产品的混合 AI 推理系统,带来最快的负载处理速度。
这一解决方案将结合 Cerebras 的 CS-3 系统、亚马逊 AWS 的 Trainium 芯片和亚马逊 AWS 的 EFA 弹性网络适配器,由 Trainium 芯片负责推理的预填充(提示处理),而 CS-3 则承担解码(输出生成任务),两者通过 EFA 连接在一起。
了解到,推理预填充属于并行工作负载,要求大算力和适中的内存带宽;推理解码本质上是串行的,算力要求较小但内存带宽要求高。组合使用 Trainium 和 CS-3 能发挥两款 AI 芯片各自的长处,提供最佳的最终用户体验。(溯波)
马斯克宣布Grok 3即将推出:已完成预训练 计算量超Grok 2十倍快科技1月5日消息,马斯克在社交平台宣布:Grok3即将推出,已完成预训练,其计算量比Grok2高10倍。作为马斯克麾下社交媒体平台X的强大后盾,Grok系列模型一直以其卓越的生成式人工智能技术引领潮流。xAI公司自马斯克...
AI新贵Perplexity提议345亿美元收购谷歌Chrome8月13日消息,据外媒报道,在OpenAI训练的生成式人工智能聊天机器人ChatGPT大火、越来越多的厂商发力生成式人工智能、用户也越来越多之后,外界就曾预计谷歌等厂商的搜索业务将面临冲击,而在OpenAI宣布测试AI搜索原...
苹果发力对话式AI 预算扩至每日数百万美元9月7日消息,据外媒援引知情人士透露,苹果始终在增加构建人工智能所需计算的预算,并且已经扩大到每天数百万美元。该公司的一个目标是开发一些功能,允许iPhone用户使用简单的语音命令来自动执行涉及多个步骤的任务...
苹果发布M5芯片MacBook Pro 存储容量最高4TB售价12999元起10月16日消息,据外媒报道,苹果公司在当地时间周三,如外媒报道的那样推出了搭载M5芯片的新一代MacBookPro,在速度更快的M系列芯片的加持下,新一代MacBookPro的AI性能大幅提升,但售价并未发生变化,仍与去年10月...
奖金最高10万元!天工“巧绘龙年”AI绘画大赛开赛2月8日消息,由昆仑万维「天工AI智能助手」主办的“巧绘龙年”AI绘画大赛正式开赛。即日起,用户在手机应用市场免费下载「天工AI智能助手」APP,使用其中“AI绘画”功能绘制作品并投稿至大赛专区,即有机会获得最高1...
如何选购kawai电钢琴??2023年kawai选购攻略大全来了!
哈喽!最近有超多小伙伴问我:怎么选一台kawai性价比高的电钢琴?为了解决大家在选择kawai电钢的困惑,我专门...
苹果招募生成式AI人才 提供数十个大模型岗位
根据最新的招聘信息,苹果正在扩大其生成式人工智能领域的专业团队,并计划将这项技术应用于iPhone和iPad等...
昆仑万维旗下Opera生成式AI服务海外用户数突破100万
昆仑万维旗下Opera宣布,生成式AI服务Aria海外用户数突破100万。2023年5月24日,Opera正式推出生成式AI助理...
创始人王慧文退出 美团成AI公司光年之外唯一股东
8月7日消息,据国家企业信用信息公示系统显示,北京光年之外科技有限公司在近期完成工商变更,创始人王慧文...