微软 AI CEO苏莱曼：“看似有意识”的 AI 即将到来，恐导致严重后果

IT之家 8 月 21 日消息，据外媒 TechRadar 今日报道，微软 AI 首席执行官穆斯塔法・苏莱曼警告称，即使只是鼓励人们相信 AI 有意识，也可能带来严重后果。

穆斯塔法・苏莱曼称，所谓“表面有意识的 AI”（IT之家注：Seemingly Conscious AI，SCAI）可能很快表现得、听起来都特别逼真，以至于用户难以分辨虚幻与现实。

他表示，人工智能正在迅速发展到足以在情感上说服人类，让人误以为它有感知能力。AI 能模拟记忆、情感镜像甚至表面共情，使人们倾向于把它当作有意识存在对待。一旦发生这种情况，局面将会一团糟。

穆斯塔法・苏莱曼写道：“看似有意识的 AI 的到来既不可避免，也不受欢迎。我们需要的是一种 AI 设想，它可以成为有用伴侣，同时不陷入幻觉。”

穆斯塔法・苏莱曼指出，越来越多案例显示，用户与聊天机器人长期互动后可能产生妄想信念。他警告，如果大量人被误导去倡导 AI 公民身份，而忽视真正的技术问题，将带来反乌托邦的社会风险。“我最担心的是，许多人会过分相信 AI 具备意识，从而倡导 AI 权利、模型福利甚至 AI 公民身份。这将成为 AI 发展中的危险转折，需要立即关注。”

穆斯塔法・苏莱曼预测，结合大语言模型、语音表达、记忆与聊天记录的 SCAI 系统可能在几年内出现，且不仅来自科技巨头，也可能出现在拥有 API 和优质提示的任何开发者手中。同时他强调，AI 行业应避免使用助长机器意识幻觉的语言，不应将聊天机器人拟人化或暗示其理解或关心人类。

“我们应开发优先与人类和现实世界互动的 AI，同时确保 AI 始终呈现为 AI，在最大化实用性同时，最小化意识特征。我们必须避免制造‘意识模拟’的 AI，它不应声称拥有体验、感受或情绪，例如羞愧、内疚、嫉妒或竞争欲，也不应通过声称受苦或希望自主生存来触发人类共情。”

穆斯塔法・苏莱曼呼吁建立防护机制，避免社会因人们对 AI 产生情感依赖而出现问题。他强调，先进 AI 的真正风险不在于机器觉醒，而在于我们可能忘记它们尚未觉醒。