OpenAI组建新团队以评估人工智能的“灾难性风险”
10月27日消息,美国当地时间周四,人工智能研究公司OpenAI宣布组建新团队,以评估和减轻与人工智能相关的“灾难性风险”。
OpenAI在周四的声明中表示,这个新团队名为Preparedness,其主要任务是“跟踪、评估、预测和保护”人工智能造成的潜在重大问题,包括核威胁。
此外,该团队将致力于减轻“化学、生物和放射性威胁”,以及人工智能的“自主复制”行为。Preparedness团队将解决的其他风险包括人工智能欺骗人类的行为,以及网络安全威胁。
OpenAI在更新中写道:“我们相信,前沿人工智能模型的能力将超越目前最先进的模型,有可能造福全人类。不过,它们也构成了越来越严重的风险。”
麻省理工学院可部署机器学习中心主任亚历山大·马德里(Aleksander Madry)将领导Preparedness团队。
OpenAI指出,Preparedness团队还将制定和维护一项“风险知情的开发政策”,该政策将概述公司在评估和监控人工智能模型方面所做的工作。
OpenAI首席执行官萨姆·奥特曼(Sam Altman)曾警告过人工智能可能引发的灾难性事件。今年5月,奥特曼和其他著名人工智能研究人员发表了一份简短声明,称“减轻人工智能带来的灭绝性风险应该是全球的优先事项。”
此前在伦敦接受采访时,奥特曼还建议各国政府应该像对待核武器一样,“认真对待”人工智能。
比亚迪冲进人形机器人赛道 200万投资稚晖君的智元机器人比亚迪近日宣布对人形机器人公司智元机器人进行近200万元的投资,这也是比亚迪首次押注人形机器人领域。智元机器人由稚晖君创立,其首款产品远征A1机器人已进行公开展示。比亚迪的投资目的在于让远征A1等机器人进入...
郭明錤:AI/AIGC 已是明确的趋势 产业的变化将会创造新赢家与输家日前有媒体报道称,人工智能公司OpenAI目前仍处于烧钱状态,可能将于2024年底破产。对于该报道,天风国际证券分析师郭明錤今天在推特上表示,不用去担心这种事。他指出,AI/AIGC已是明确的趋势,但产业的变化将会创...
微软Windows Copilot并未向所有地区开放 欧洲用户暂时无法使用10月9日消息,据外媒报道,微软确认,WindowsCopilot目前并未向所有地区开放,欧洲用户暂时无法使用。据悉,WindowsCopilot是一款集成在Windows上的人工智能助手,它可以把BingChat功能直接带到Windows11桌面,并以...
李彦宏攥紧AI超时近15分钟,5年来第一次为百度产品亲自“带货”的李彦宏仍意犹未尽,兴奋之情溢于言表。10月17日,“百度世界2023”在北京首钢园召开。这场自2006年至今连续举办了17届的大会是百度每年最为重要的产品和技术发布...
微软AI研究人员意外暴露大量内部数据,因云存储链接配置错误9月19日消息,一家网络安全公司的最新研究显示,微软公司的人工智能研究团队意外在软件开发平台GitHub上暴露了大量私人数据。有超过3万条微软员工通过Teams沟通的内部消息遭泄露。微软在收到警告后迅速删除了曝光数...
如何选购kawai电钢琴??2023年kawai选购攻略大全来了!
哈喽!最近有超多小伙伴问我:怎么选一台kawai性价比高的电钢琴?为了解决大家在选择kawai电钢的困惑,我专门...
苹果招募生成式AI人才 提供数十个大模型岗位
根据最新的招聘信息,苹果正在扩大其生成式人工智能领域的专业团队,并计划将这项技术应用于iPhone和iPad等...
昆仑万维旗下Opera生成式AI服务海外用户数突破100万
昆仑万维旗下Opera宣布,生成式AI服务Aria海外用户数突破100万。2023年5月24日,Opera正式推出生成式AI助理...
创始人王慧文退出 美团成AI公司光年之外唯一股东
8月7日消息,据国家企业信用信息公示系统显示,北京光年之外科技有限公司在近期完成工商变更,创始人王慧文...