OpenAI 发布 GPT-4o 模型卡：概述 AI 安全和风险缓解措施-AI资讯-资讯-创佳网

IT之家 8 月 10 日消息，OpenAI 公司于 8 月 8 日发布报告，概述了 GPT-4o 模型的系统卡（System Card），介绍了包括外部红队（模拟敌人攻击）、准备框架（Preparedness Framework）在内的诸多细节。

OpenAI 表示 GPT-4o 模型的核心就是准备框架（Preparedness Framework），这是一种评估和降低人工智能系统相关风险的系统方法。IT之家从报道中获悉，该框架主要用于识别网络安全、生物威胁、说服和模型自主性等领域的潜在危险。

除了针对 GPT-4 和 GPT-4V 进行的安全评估和缓解措施外，OpenAI 还针对 GPT-4o 的音频功能开展了更多安全工作。

评估的风险包括扬声器识别、未经授权的语音生成、受版权保护内容的潜在生成、无根据推断以及不允许的内容。基于这些评估结果，OpenAI 在模型和系统层面都实施了保障措施。

OpenAI 还与 100 多名外部红队人员合作，在向公众发布模型之前对其进行评估。红队人员将进行探索性的能力发现，评估模型带来的新的潜在风险，并对缓解措施进行压力测试。

5月22日，追觅科技举办扫地机器人新品发布会。发布会现场，全球领先的企业增长咨询顾问公司沙利文为追觅科技颁发了“全球20万转/分钟高速数字马达首创者”、“全球扫地机器人仿生机械臂首创者”两项市场地位确认书，...

1月16日消息，当地时间周一特斯拉首席执行官埃隆·马斯克（ElonMusk）在社交媒体X上发布了公司人形机器人“擎天柱”（Optimus）叠衣服的演示视频，令人印象深刻。特斯拉最终希望人形机器人能够帮助制造汽车，但目前...

5月23日消息，在法国巴黎举办的欧洲科技创新展览会（VivaTechnology）论坛上，百度李彦宏与阳狮集团监事会主席莫里斯•列维（MauriceLevy）进行了对谈。李彦宏表示中国AI与西方的最大区别是应用，中国有数百个基础模...

新浪科技讯6月12日上午消息，近日有媒体报道称字节跳动已于两个月前秘密启动AI手机研发项目。该项目核心团队主要由两部分人员构成：一部分来自2019年字节收购的锤子手机研发团队，另一部分则来自2021年收购的PICOVR...

快科技6月23日消息，据媒体报道，美国财政部近日宣布了一项新的禁令，旨在限制美国人对中国在人工智能（AI）和芯片领域的投资。这项禁令是继2023年8月总统签署的行政命令后的具体实施步骤，目的是防止美国资金帮助中...

OpenAI 发布 GPT-4o 模型卡：概述 AI 安全和风险缓解措施