OpenAI GPT-6 训练规模将创历史新高:预估 10 万张 H100 GPU
IT之家 3 月 1 日消息,科技媒体 smartprix 昨日(2 月 28 日)发布博文,报道称 OpenAI 在介绍 GPT-4.5 模型的视频中,意外泄露了 GPT-6 训练可能需要的 GPU 数量,暗示其规模将远超以往。
IT之家注:在 GPT-4.5 模型介绍视频的 2 分 26 秒处,OpenAI 展示 GPT 4.5 功能的聊天记录中,出现了“Num GPUs for GPT 6 Training”(训练 GPT-6 所需的 GPU 数量)的字样。
虽然视频中未对此进行任何解释,但“Num”可能暗示了一个前所未有的数字,该媒体推测高达 10 万块 GPU。
此前有消息称,OpenAI 在训练 GPT-3 时使用了约 1 万块 GPU,而随着模型的不断迭代,对计算资源的需求也在不断增加。
内部代号为“Orion”的 GPT 4.5 在自然度和减少“幻觉”方面取得了重大进展,其参数量可能超过 3 到 4 万亿。据推测,GPT 4.5 的训练使用了 3 万到 5 万块 NVIDIA H100 GPU,训练成本约 7.5 亿到 15 亿美元(IT之家备注:当前约 54.69 亿到 109.37 亿元人民币)。
截图中“Num”的含义尚不明确,它可能代表“Numerous”(大量),暗示 GPT-6 的训练规模远超以往。当然,这也有可能只是 OpenAI 的一个烟雾弹,就像之前用“Strawberry”(草莓)作为 o1 系列的代号一样。
李彦宏攥紧AI超时近15分钟,5年来第一次为百度产品亲自“带货”的李彦宏仍意犹未尽,兴奋之情溢于言表。10月17日,“百度世界2023”在北京首钢园召开。这场自2006年至今连续举办了17届的大会是百度每年最为重要的产品和技术发布...
谷歌Gemini宣布上线全局记忆功能:可回忆曾经所有对话2月14日消息,据报道,谷歌正式宣布其人工智能平台GeminiAI上线了一项备受期待的“全局记忆”功能。此创新功能赋予GeminiAI前所未有的能力,能够全面记录并存储用户与其之间的所有过往对话。借助全局记忆,用户在与A...
机器人搬运工能力杠杠的!点击图片跳转视频
阿尔特曼:ChatGPT AI聊天机器人周活跃用户超3亿,日均消息发送量突破10亿条12月5日消息,在纽约时报本周三举办的DealBook峰会上,OpenAI公司首席执行官山姆・阿尔特曼(SamAltman)发布喜讯,ChatGPT聊天机器人周活跃用户超过3亿,日均消息发送量突破10亿条。阿尔特曼在活动中表示,ChatGPT...
万人测试OpenAI搜索引擎:活动规划等表现出色,存在“幻觉”等不足9月5日消息,华盛顿邮报昨日(9月4日)发布博文,表示从初期1万名用户反馈来看,被很多人视为“谷歌杀手”、来自OpenAI的SearchGPT搜索引擎虽然有很多亮点功能,但要撼动谷歌搜索地位仍有很长的路要走。部分功能非常...
如何选购kawai电钢琴??2023年kawai选购攻略大全来了!
哈喽!最近有超多小伙伴问我:怎么选一台kawai性价比高的电钢琴?为了解决大家在选择kawai电钢的困惑,我专门...
苹果招募生成式AI人才 提供数十个大模型岗位
根据最新的招聘信息,苹果正在扩大其生成式人工智能领域的专业团队,并计划将这项技术应用于iPhone和iPad等...
昆仑万维旗下Opera生成式AI服务海外用户数突破100万
昆仑万维旗下Opera宣布,生成式AI服务Aria海外用户数突破100万。2023年5月24日,Opera正式推出生成式AI助理...
创始人王慧文退出 美团成AI公司光年之外唯一股东
8月7日消息,据国家企业信用信息公示系统显示,北京光年之外科技有限公司在近期完成工商变更,创始人王慧文...