OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性-AI资讯-资讯-创佳网

9月20日消息，据外媒报道，美国人工智能研究公司OpenAI宣布推出“红队网络”（Red Teaming Network），并邀请各领域专家加入其“红队网络”，以提高其人工智能（AI）模型的安全性。

OpenAI的这一举措旨在深化和扩大其与外部专家的合作，以确保其人工智能模型的可靠性和安全性。签约的专家将通过协助评估和减轻模型风险，在增强OpenAI人工智能系统的稳健性方面发挥关键作用。

尽管OpenAI之前通过漏洞赏金计划和研究人员访问计划与外部专家合作，但新推出的“红队网络”将这些努力正式化。

OpenAI表示，“红队网络”是一个由经验丰富且值得信赖的专家组成的社区，可以帮助公司更广泛地进行风险评估，而不是在主要模型部署之前进行一次性参与和选择过程。

据报道，“红队”在识别人工智能系统中的偏见和评估安全过滤器方面发挥着至关重要的作用，已经成为人工智能模型开发过程中的关键一步，尤其是在生成式技术得到更广泛采用的情况下。

OpenAI向不同领域的专家发出邀请，包括具有语言学、生物识别、金融和医疗保健背景的专家。该公司强调了各种专业知识对人工智能评估的重要性，包括但不限于认知科学、法律、网络安全、经济学和医疗保健等领域。（小狐狸）

11月22日消息，福特汽车于当地时间周二表示，已恢复密歇根州电池厂的建设工作，但规模较原计划有所缩减，理由是未来电动汽车需求料将降温。今年9月，福特暂停了这家位于密歇根州马歇尔的电池厂的建设，当时表示正在...

IT之家1月5日消息，谷歌旗下DeepMind公司近日公布了三项新进展，其中之一针对收集训练数据的系统，起草了“机器人宪法”，确保AI机器人不会伤害人类。谷歌的数据收集系统AutoRT可以同时利用视觉语言模型（VLM）和大...

IT之家2月10日消息，据路透社报道，九位熟悉情况的消息人士透露，英伟达正在建立一个新的业务部门，专注于为其他公司设计定制芯片，包括先进的人工智能（AI）处理器。报道称，英伟达控制着约80%的高端AI芯片市场，这...

今日要闻一览：消息称苹果推动AppleTV+服务入华正与中国移动洽谈合作多名OpenAI和谷歌DeepMind前员工现员工警告AI风险呼吁保护风险吹哨人新品首发即下架绿联NAS到底怎么了？苹果新专利显示其欲为AirPods充电盒增配触...

5月11日消息，据外媒报道，市场研究机构的报告显示，得益于人工智能需求激增推动的英伟达营收大增，全球前十大芯片设计厂商在去年的营收超过了1600亿美元，英伟达也首次成为年度营收最高的芯片设计厂商。从研究机构...

OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性