百川智能在 Baichuan2 Turbo 系列 API 发布会上,公布了两款基于搜索增强的 API:Baichuan2-Turbo-192K 和 Baichuan2-Turbo。这两款 API 不仅支持 192K 的长上下文窗口,还能利用搜索增强知识库的功能。
百川智能的王小川表示,这种方法可以让大模型从海量的文档中找出与用户提示词最相关的内容,然后与提示词一起放入长窗口中,从而提高文本规模和推理效率。他说,这样可以将文本规模从 192K 提升到相当于 1 亿汉字的 5000 万 tokens。
百川智能还宣布,API 用户可以上传自己的文本资料,创建专属知识库。官网大模型已经支持多种文本格式和网址输入。用户可以通过官网体验改进后的模型。