百度智能云推出了一个让任何人都能开发AI原生应用的工作台,叫做千帆AppBuilder。它由两层服务组成:组件和框架。
“组件”是一些封装了底层服务能力的AI能力组件(如文字识别、文生图等)、大语言模型能力组件(如长文总结、nl2sql等)和基础组件(如向量数据库、对象存储等)。每个组件都有一个特定的功能。
“框架”是一些将不同的组件串联、组合起来的AI原生应用框架。它们可以完成一些特定场景的任务。比如,AppBuilder提供了检索增强生成(RAG)、智能体(Agent)、智能数据分析(GBI)等框架。
千帆AppBuilder有两种产品形态:代码态和低代码态。代码态适合有深度AI原生应用开发需求的用户,提供了SDK、开发环境、调试工具、示例代码等开发套件和应用组件。低代码态适合没有编程基础的用户,提供了可视化工具,用户只需点选,就能快速定制、上线AI原生应用。
为了解决大模型开发中的模型精调难、模型评估不全面、计算与推理资源不足等难题,百度智能云千帆大模型平台进行了全新升级,围绕“提效”、“降本”两大核心诉求。
升级后,千帆平台预置了国内最多的54个基础+行业大模型,并对它们进行了模型能力增强。同时,千帆平台发布了数据统计分析、数据质量检查等功能,配合数据清洗可视化Pipeline,可以构建出高质量的大模型数据燃料。千帆平台还是国内首个支持大模型多方位数据分析的MaaS服务平台。此外,千帆平台推出了自动化+人工的双重模型评估机制,大幅提升了模型评估的效率和质量。
千帆平台还提供了批量计算等灵活计价方式,可以满足客户的多种业务场景需求,帮助企业低成本使用大模型。
千帆平台已经服务了超过4万家企业用户,帮助他们精调了近1万个大模型。使用千帆平台训练大模型,成本最高可以降低90%。