OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性-AI资讯-资讯-创佳网

9月20日消息，据外媒报道，美国人工智能研究公司OpenAI宣布推出“红队网络”（Red Teaming Network），并邀请各领域专家加入其“红队网络”，以提高其人工智能（AI）模型的安全性。

OpenAI的这一举措旨在深化和扩大其与外部专家的合作，以确保其人工智能模型的可靠性和安全性。签约的专家将通过协助评估和减轻模型风险，在增强OpenAI人工智能系统的稳健性方面发挥关键作用。

尽管OpenAI之前通过漏洞赏金计划和研究人员访问计划与外部专家合作，但新推出的“红队网络”将这些努力正式化。

OpenAI表示，“红队网络”是一个由经验丰富且值得信赖的专家组成的社区，可以帮助公司更广泛地进行风险评估，而不是在主要模型部署之前进行一次性参与和选择过程。

据报道，“红队”在识别人工智能系统中的偏见和评估安全过滤器方面发挥着至关重要的作用，已经成为人工智能模型开发过程中的关键一步，尤其是在生成式技术得到更广泛采用的情况下。

OpenAI向不同领域的专家发出邀请，包括具有语言学、生物识别、金融和医疗保健背景的专家。该公司强调了各种专业知识对人工智能评估的重要性，包括但不限于认知科学、法律、网络安全、经济学和医疗保健等领域。（小狐狸）

据知情人士透露，软银集团正在与愿景基金1号（VF1）就收购Arm有限公司未直接拥有的25%股份进行谈判。愿景基金1号是2017年筹集的1000亿美元投资基金。此举可能会给等待多年的投资者带来丰厚的回报。就在这些讨论进行...

8月11日消息，美国当地时间周四，人工智能研究公司OpenAI宣布，它正在向所有用户开放ChatGPT的“自定义指令”功能。所谓的“自定义指令”，是让用户更多地控制ChatGPT的响应方式，包括那些只使用免费服务的用户。该...

8月10日消息，在快手光合创作者大会上，快手AI、用户增长业务负责人王仲远展示了全模态、大模型AIGC解决方案和AIGC数字人产品快手智播，还首次正式公布了大模型方面的进展。王仲远表示，快手“全模态、大模型AIGC解...

8月17日，全国最大的全病程管理平台微脉发布国内首款健康管理领域大语言模型应用——CareGPT。与通用型的大语言模型产品不同，这款基于国内开源大语言模型自主研发的健康管理应用产品，主要致力于在真实的医疗服务场...

据36氪消息，AI全链路营销公司「奥创光年」（MogicAI）已于近日获得千万美元A轮融资，本轮由凯辉基金领投，老股东真格基金参与投资。本轮融资将主要用于AI视频领域的智能算法、模型研发等技术投入上，以进一步提升产...

OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性