OpenAI将组建新团队 以评估和减轻与人工智能相关的灾难性风险
10月27日消息,据外媒报道,当地时间周四,美国人工智能研究公司OpenAI宣布,它将组建一个名为Preparedness的新团队,以评估和减轻与人工智能(AI)相关的“灾难性风险”。
OpenAI表示,该团队将由麻省理工学院可部署机器学习中心主任亚历山大·马德里(Aleksander Madry)领导,将帮助跟踪、评估、预测和防范由人工智能造成的多个类别的灾难性风险。
该公司还表示,该团队还将负责制定和维护风险知情发展政策(RDP)。RDP旨在补充和扩展该公司现有的风险缓解工作,有助于在部署前和部署后确保新的高性能系统的安全性和一致性。
OpenAI是由特斯拉CEO埃隆•马斯克(Elon Musk)、美国创业孵化器Y Combinator总裁阿尔特曼、全球在线支付平台PayPal联合创始人彼得·蒂尔等硅谷科技大亨于2015年联合创立的一家美国人工智能研究公司,主攻人工智能技术应用领域。
该公司CEO萨姆•奥尔特曼(Sam Altman)是一位著名的人工智能末日预言家,他经常担心人工智能“可能导致人类灭绝”。
据外媒报道,奥尔特曼曾警告过人工智能可能引发灾难性事件。今年5月,他和其他著名的人工智能研究人员发表了一份声明,称“减轻人工智能带来的灭绝性风险应成为全球优先事项”。
今年9月份,OpenAI宣布推出“红队网络”(Red Teaming Network),并邀请各领域专家加入其“红队网络”,以提高其人工智能模型的安全性。签约的专家将通过协助评估和减轻模型风险,在增强OpenAI人工智能系统的稳健性方面发挥关键作用。(小狐狸)
市值暴跌超万亿,苹果急需AI大模型「新解药」在交出连续三个季度负增长的业绩后,苹果公司市值失守3万亿美元。上周五,苹果市值一天之内蒸发超万亿元,4.8%的跌幅也创下了去年9月以来的最大单日跌幅。而在美股8月7日的交易中,苹果股价下跌1.73%,市值再度蒸发5...
英伟达CEO黄仁勋:采用生成式AI的竞赛已经开始8月24日消息,据外媒报道,英伟达公司已在当地时间周三,发布了截至7月30日的2024财年第二财季的财报,他们的季度营收在这一财季首次超过100亿美元,达到了135.07亿美元,同比翻番,环比也大增,净利润则是同比增长...
百川智能宣布获3亿美元A1轮融资,阿里腾讯小米参投10月17日上午消息,百川智能今日宣布已完成A1轮战略融资,融资金额3亿美元,阿里、腾讯、小米等科技巨头及多家顶级投资机构均参投了本轮融资。加上天使轮的5000万美元,百川智能的融资金额已达3.5亿美元。成立不到半...
消息称鸿海再度拿下大单,成英伟达AI服务器芯片基板最大供应商8月14日消息,据台媒《经济日报》今日凌晨报道,鸿海集团首度拿下了英伟达HGXAI服务器芯片基板的订单,供货比重将超过50%。据报道,继此前获得英伟达另一款DGXAI服务器芯片基板订单之后,鸿海已经取得英伟达最重要的...
OpenAI拟进行重大更新 以更低成本吸引开发者10月12日消息,据外媒援引知情人士透露,人工智能(AI)研究公司OpenAI计划下个月为开发者推出重大更新,使基于其AI模型构建软件应用的成本更低、速度更快。目前,OpenAI正试图吸引更多公司使用其技术。此次更新包括...
如何选购kawai电钢琴??2023年kawai选购攻略大全来了!
哈喽!最近有超多小伙伴问我:怎么选一台kawai性价比高的电钢琴?为了解决大家在选择kawai电钢的困惑,我专门...
苹果招募生成式AI人才 提供数十个大模型岗位
根据最新的招聘信息,苹果正在扩大其生成式人工智能领域的专业团队,并计划将这项技术应用于iPhone和iPad等...
昆仑万维旗下Opera生成式AI服务海外用户数突破100万
昆仑万维旗下Opera宣布,生成式AI服务Aria海外用户数突破100万。2023年5月24日,Opera正式推出生成式AI助理...
创始人王慧文退出 美团成AI公司光年之外唯一股东
8月7日消息,据国家企业信用信息公示系统显示,北京光年之外科技有限公司在近期完成工商变更,创始人王慧文...