Anthropic 发布 Citations API,迎战 AI 信息来源验证挑战

shiqi2025-01-24 16:08:39IT之家

IT之家 1 月 24 日消息,Anthropic 公司最新推出了名为“Citations”(引用)的 API,顾名思义,该功能可以为 AI 生成的内容提供参考来源,并嵌入原始文件链接,将 AI 答案关联用户提供的文档(例如电子邮件或 PDF)。该功能已在 Anthropic 的 API 和 Google Cloud 的 Vertex AI 平台上上线。

IT之家注:开发者目前依赖复杂的提示词,在 AI 输出中嵌入引用,这种方法通常会导致结果不一致,并且对提示工程的需求很高。

“Citations”简化了这一过程,允许开发者直接在 API 的上下文窗口中附加源文档。Claude 会自动在其回复中引用这些来源中的相关句子和部分,从而降低幻觉风险并提高问责性。

“Citations” API 无需定制提示工程,针对 AI 生成的内容,可以精准链接到源文件中的特定句子和段落,从而简化了开发流程。内部评估显示,“Citations”相比自定义实现方案,召回准确率(recall accuracy)最高提升 15%。

英伟达发布H200!巩固AI芯片霸主地位

11月14日消息,全球市值最高的芯片制造商英伟达公司,正在升级其H100人工智能处理器,为这款产品增加更多功能,进一步巩固其在人工智能计算市场的领先地位。新款芯片的型号名为H200,将具备使用高带宽内存(HBM3e)...

外媒评苹果新品发布会:AI对iPhone销量的即时提升有限

9月10日消息,美国时间周一,苹果在2024秋季新品发布会上推出了最新款iPhone、Watch和AirPods等硬件产品。iPhone16系列毫无疑问再次成为焦点。苹果押注,人工智能支持的iPhone将有助于提振销量,保持在中国市场的竞...

OpenAI曝启动全球AI基建计划 先在美国投资数百亿美元

9月4日消息,据外媒报道,知情人士称,OpenAICEO阿尔特曼(SamAltman)全球大规模AI基建计划已逐渐清晰,阿尔特曼计划先从美国各州开始建设AI所需的机器、系统等基建设施,预计耗资数百亿美元。从今年年初开始,阿尔...

2023美图创造力大会开幕,美图发布AI视觉大模型4.0

12月5-6日,主题为“未来AI设计”的美图创造力大会(MeituCreativityConference,简称MCC)在厦门举行。本届大会由美图公司与站酷联合举办,聚焦于设计师生态和AI设计趋势。大会现场发布《2023年度AI设计实践报告》...

斯坦福学者承认其法庭文件因使用ChatGPT出错,但称不影响文件实质内容

12月5日消息,斯坦福大学社会媒体实验室创始人、错误信息专家(misinformationexpert)杰夫・汉考克(JeffHancock)承认,他在一份法庭文件中使用了人工智能工具ChatGPT来帮助整理引用文献,但出现了所谓的“幻觉”...

TAG:Anthropic AI
上一篇:OpenAI发布首款AI智能体Operator:可控制浏览器自动完成购物、订餐等任务
下一篇:解码机器人技术未来:英伟达推动智能与产业融合