OpenAI将组建新团队：收集公众意见以确保AI大模型与人类价值观保持一致

1月17日消息，据外媒报道，OpenAI宣布将组建一个名为Collective Alignment的新团队，来落实公众关于如何确保其未来的人工智能（AI）模型与人类价值观保持一致的想法。

OpenAI是由特斯拉CEO埃隆•马斯克（Elon Musk）、美国创业孵化器Y Combinator总裁阿尔特曼、全球在线支付平台PayPal联合创始人彼得·蒂尔等硅谷科技大亨于2015年联合创立的一家美国人工智能研究公司，主攻人工智能技术应用领域。

在2022年11月30日推出ChatGPT后，OpenAI获得了广泛关注。ChatGPT是一种新型AI聊天机器人工具，可根据用户的要求快速生成文章、故事、歌词、散文、笑话，甚至代码，并回答各类疑问。

在推出仅两个月后，ChatGPT的月活跃用户数就达到了1亿，成为历史上增长最快的消费者应用之一。在2023年11月6日举行的OpenAI首届开发者大会上，OpenAI CEO萨姆•奥尔特曼（Sam Altman）宣布，ChatGPT的周活跃用户数已达到1亿。

虽然ChatGPT大火，但人们对人工智能产生“深度虚假”内容和错误信息的能力表示担忧。批评者认为，像ChatGPT这样的人工智能系统可能会因为用于训练它们的输入数据而表现出固有的偏见。

为了解决人工智能开发过程中的偏见等问题，OpenAI将组建一个名为Collective Alignment的新团队，让公众参与塑造其人工智能模型的行为，这是其解决监管问题并确保与社会价值观保持一致的持续努力的一部分。

该团队由研究人员和工程师组成，旨在开发一个系统，用于收集和编码公众对于OpenAI模型行为的看法，并将这些宝贵看法融入到OpenAI的产品和服务中。（小狐狸）