创佳网 > 资讯 > AI资讯 >微软副总裁Vik Singh：AI聊天机器人需“学会求助”而非“制造幻觉”

微软副总裁Vik Singh：AI聊天机器人需“学会求助”而非“制造幻觉”

yuzaixia2024-09-02 10:32:45IT之家

9 月 2 日消息，当地时间 9 月 1 日，据法新社报道，微软公司副总裁 Vik Singh 在接受采访时说，“坦率地说，如今（生成式 AI）真正缺少的能力，即是当模型无法确定（自身答案是否准确）时，能够主动说‘嘿，我不确定，我需要帮助’。”

自去年以来，微软、谷歌及其竞争对手一直在迅速部署如 ChatGPT、Gemini 等生成式 AI 应用，这些应用可以按需生成各种内容，并给用户一种“无所不知”的错觉。尽管生成式 AI 的开发取得了进展，它们仍然会出现“幻觉”或编造答案。

Vik Singh 坚持认为，“真正聪明的人”正在努力找到方法，让聊天机器人在不知道正确答案时“承认并寻求帮助”。

与此同时，云端软件巨头 Salesforce 的首席执行官 Marc Benioff 也在上周表示，他看到许多客户对微软 Copilot 的误导性表现越来越感到沮丧。

获悉，近年来，人工智能蓬勃发展，聊天机器人等应用逐渐普及，人们可以通过简单的指令从这些聊天机器人（例如 ChatGPT）获取信息。然而，这些聊天机器人仍然容易出现“幻觉”问题，即提供错误的答案，有时甚至是危险的信息。造成“幻觉”的原因之一，是训练数据不准确、泛化能力不足以及数据采集过程中的副作用。（清源）

马斯克连番炮轰苹果：称造手机并非不可能

6月12日消息，苹果在其全球开发者大会上宣布，将整合OpenAI技术到其软件中。随后，与OpenAI宿怨已久的马斯克在X上连发多条推文，大骂“苹果根本不知道一旦把用户数据交给OpenAI后会发生什么，它在出卖你们。”他还直...

“ChatGPT之父”剑桥演讲遭抵制，学术大佬激战AI安全

随着美国政府发布新的AI法规，关于监管AI大模型一事最近又起争议。北京时间11月2日凌晨，“ChatGPT之父”、OpenAICEO奥特曼（SamAltman）在英国剑桥参加活动时，遭到了反AI活动的激进分子的强烈抵制，在大礼堂里当面...

HPE Aruba Networking Central将集成多个生成式AI大语言模型以提升AIOps能力

4月8日消息，HPE日前宣布将在HPEArubaNetworkingCentral上集成多个生成式AI大语言模型，以拓展其AIOps网络管理能力。HPEArubaNetworkingCentral是HPE云原生网络管理解决方案，并托管在HPEGreenLake云平台上。HPEArub...

李彦宏欧洲科技创新展览会对谈：中国AI与西方的最大区别是应用

5月23日消息，在法国巴黎举办的欧洲科技创新展览会（VivaTechnology）论坛上，百度李彦宏与阳狮集团监事会主席莫里斯•列维（MauriceLevy）进行了对谈。李彦宏表示中国AI与西方的最大区别是应用，中国有数百个基础模...

机构预估OpenAI部署文生视频模型Sora需要72万片英伟达H100：价值216亿美元

3月27日消息，市场调查机构FactorialFunds近日发布报告，认为OpenAI部署文本转视频模型Sora，在峰值期需要72万片英伟达H100AI加速卡。如果按照每片英伟达H100AI加速卡3万美元成本计算，72万片需要216亿美元（备注：...
TAG：微软 AI
上一篇：晋江文学城痛批“部分博主偷取多部知名小说喂 AI”：无耻嚣张的侵权行为
下一篇：大厂不想你有AI女友