Cohere近日发布了Command-R,这是一款新型的可扩展语言模型,旨在为企业级检索增强生成(RAG)和工具使用应用提供动力。随着企业越来越希望将AI从验证性试验转向生产部署,Command-R在效率和准确性之间找到了平衡点。
Command-R属于新兴的“可扩展”AI模型类别,其设计理念优先考虑了高性能和成本效益。这款模型可以与Cohere的Embed和Rerank模型无缝集成,为用户提供卓越的RAG功能。值得注意的是,Command-R的输出结果中包含了清晰的引用,降低了幻觉风险,使得用户能够更容易地从源材料中获取更多的上下文信息。
Command-R对工具使用的支持,对企业开发人员来说是一个重大利好。这项技术允许开发人员将模型与外部工具,如搜索引擎、API、函数和数据库进行连接,利用这些工具中存储的数据、通过API执行操作、与向量数据库交互、查询搜索引擎等,实现更丰富的功能。这对企业来说尤为重要,因为大量的企业数据都存储在外部来源中。
工具使用的引入使得一系列新的应用场景成为可能。例如,开发人员可以要求Command-R推荐使用的工具或工具集,并提供使用说明。这使得聊天机器人能够与CRM系统互动,以更改交易状态,或者利用Python解释器进行数据科学分析。另一个常见的应用是将用户消息转化为向量数据库或搜索引擎的搜索查询,使工作助手能够自动搜索不同的数据库和平台,以检索相关信息或进行比较分析。
工具使用的过程涉及四个核心步骤。首先,开发人员需要告知Command-R哪些工具可以进行互动,以及如何构建这些互动,比如API请求或任何可以格式化为JSON的内容。接着,Command-R会动态选择这些互动所需的适当工具和参数。然后,开发人员执行这些工具调用,并接收工具的返回结果。最后,为了从模型中生成最终响应,开发人员需要将这些工具结果提交回Command-R。
值得强调的是,开发人员负责执行工具调用并将最终结果提交给Command-R。这确保了企业能够掌控自己的数据,并能够将模型与现有系统和工作流程进行集成。
通过启用工具使用功能,Command-R使企业能够充分发掘其数据和系统的潜力,简化复杂的工作流程,并在广泛的应用中推动自动化。随着企业越来越希望大规模利用AI,这一能力对于提供与现有企业基础设施无缝集成的高影响力解决方案至关重要。
除了RAG和工具使用功能外,Command-R还具备最多可达128k个令牌的扩展上下文窗口,以及Cohere托管API的改进定价。该模型还在包括英语、法语、西班牙语、意大利语、德语、葡萄牙语、日语、韩语、阿拉伯语和中文在内的10种主要语言中表现出色。
为了支持机器学习研究社区,Cohere的非营利性研究实验室Cohere For AI已在HuggingFace上发布了Command-R的权重。虽然商业使用需要许可证,但公开发布使研究人员能够独立评估并在此模型的基础上进行构建。
随着企业从实验阶段逐步过渡到生产规模的AI应用,Cohere成为了一个值得考虑的选择。它提供了一个值得信赖、可扩展的解决方案,优先考虑了数据隐私和云选择。随着Command-R的推出,企业现在拥有了一个强大的新工具,可以推动其运营中的创新和自动化。