您尚未登录账户
您的企业账号申请正在审核中
Anthropic推出“Citations”功能，强化AI信息追溯能力
近日，Anthropic公司推出了一项名为“Citations”的新功能，该功能旨在将AI生成的回答与原始文档中的具体句子和段落相联系。通过Anthropic的API和Google Cloud的Vertex AI平台，开发者可以直接将用户提供的文档（如邮件或PDF文件）作为AI回答的参考依据。
Citations功能的核心在于，它能够将AI生成的输出与源文档中的特定内容相链接。这一改变简化了开发工作流程，减少了以往对复杂提示工程的依赖。据内部评估显示，与使用自定义实现相比，Citations功能可将召回准确率提高至多15%。目前，该功能支持Claude 3.5、Sonnet和Haiku模型，在Anthropic的API和Vertex AI上均可使用。
以往，开发者通常需要设计精细的提示，以便在AI输出中嵌入引用信息。然而，这种方法往往导致结果不一致，且对提示工程的需求较高。Citations功能的推出，使得开发者能够直接在API的上下文窗口中附加源文档，Claude模型会自动在回复中引用这些源文档中的相关句子和段落，从而降低了信息误导的风险，并提高了责任可追溯性。
具体而言，Citations功能可应用于多个场景：如总结长篇文档，并将每个总结点链接回其原始来源；为复杂文档（如法律案件文件或财务报表）提供详细查询答案；以及创建能够引用产品手册和常见问题解答中确切来源的客户支持系统。
在处理文档时，Citations功能会将文档拆分为句子等“块”，并与用户查询一起传递给AI。这确保了AI的响应能够引用特定内容，并格式化以引用文档页面、文本范围或自定义内容块。虽然这会增加一些输入令牌的成本，但引用的文本不计入输出令牌，从而为开发者提供了成本效益。
在实际应用中，多家机构已率先采用Citations功能。例如，Thomson Reuters将其集成到CoCounsel AI平台中，以增强法律和税务咨询服务中的信任度并降低信息误导风险。另一家金融AI提供商Endex则报告称，使用Citations功能后，其引用准确率提高了20%，并消除了引用格式错误，从而简化了多阶段金融研究工作。
总体而言，Citations功能的推出有望增强Claude模型在寻求稳健、可追溯AI集成的开发者中的吸引力。其设计也与API的其他功能（如令牌计数和批处理）相辅相成，为多种应用场景提供了无缝体验。
