阿尔特曼退出,OpenAI 安全与安保委员会改为独立的董事会监督委员会

xiangqian2024-09-18 13:58:05IT之家

OpenAI 于今年 5 月 29 日宣布董事会成立安全与安保委员会,负责就 OpenAI 项目和运营的关键安全与保障决策提出建议。

OpenAI 今日发布公告,称其安全与安保委员会将改组为一个独立的董事会监督委员会,由卡内基梅隆大学计算机科学学院机器学习系主任 Zico Kolter 担任主席职位。

这一委员会中还包括 Quora 联合创始人兼首席执行官 Adam D'Angelo、美国退役陆军上将 Paul Nakasone 和索尼公司前执行副总裁兼总法律顾问 Nicole Seligman,均为 OpenAI 董事会现有成员。同时,阿尔特曼也已经从安全与安保委员会离开。

今年夏天,有五名美国参议员联合致信对 OpenAI 的政策提出了质疑,因为公司早期曾专注于 AI 长期风险的员工中已经有近一半离职,而他们大都指责阿尔特曼反对“真正的 AI 监管”。

OpenAI 表示,该委员会之前对其最新 AI 模型 o1 进行了安全审查,该委员会将继续听取有关公司主要模型的简报,并保留在解决安全问题之前延迟发布的权力。

据称,在该公司的内部评估中,o1 模型被评为“中等风险”。OpenAI 还表示,它正在努力采纳委员会的建议,以提高透明度和与外部团体的合作,并在越来越多的产品团队中统一其安全实践。

据传,该公司正在进行一轮融资,筹集 65 亿美元以上,这将使 OpenAI 的估值超过 1500 亿美元(IT之家备注:当前约 1.07 万亿元人民币)。为了达成这笔交易,OpenAI 可能放弃其混合非营利公司结构。

必应翻开新篇章,微软邀测AI摘要功能:要颠覆搜索体验

7月25日消息,微软必应官方博客昨日(7月24日)更新博文,表示已邀请部分必应(Bing)用户,在搜索结果中测试AI摘要功能。微软表示该功能结合搜索结果页面、生成式AI、大型语言模型(LLMs),通过生成式搜索动态响应...

OpenAI向所有用户开放ChatGPT“自定义指令”功能

8月11日消息,美国当地时间周四,人工智能研究公司OpenAI宣布,它正在向所有用户开放ChatGPT的“自定义指令”功能。所谓的“自定义指令”,是让用户更多地控制ChatGPT的响应方式,包括那些只使用免费服务的用户。该...

AI助推,亚马逊跻身“2万亿美元俱乐部”:股价今年已涨29.13%

6月27日消息,亚马逊公司市值首次突破2万亿美元门槛,继微软、苹果、英伟达、Alphabet(谷歌母公司)之后,成为第五家加入“2万亿美元俱乐部”的美国公司。查询亚马逊公司当前市值,为2.01万亿美元,市盈率54.38,当...

定位产业AIGC化加速器 “云阙AI”大模型垂直应用正式发布

2024年3月17日,由北京师范大学新闻传播学院、北京师范大学新媒体传播研究中心、出版业用户行为大数据分析与应用重点实验室主办,上海云阙智能科技有限公司(云阙智能)协办的“京师大模型传播应用系统第二期发布暨...

报告称OpenAI采集了超一百万小时的YouTube视频来训练GPT-4

4月7日消息,本周早些时候,《华尔街日报》报道称AI公司在收集高质量训练数据方面遇到了困难。今天,《纽约时报》详细介绍了AI公司处理此问题的一些方法,其中涉及到属于AI版权法模糊灰色区域的内容。报道称,OpenAI...

上一篇:字节跳动否认和台积电有AI芯片合作计划
下一篇:智能体时代,AI正从“神坛”走向“人间”