您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
OpenAI推结构化输出，GPT-4o大幅降价
2024年08月07日 由 daydream 发表
166
0
OpenAI 近期推出了“结构化输出”这一创新的API功能，该功能旨在确保AI模型的响应严格遵循开发者定义的JSON架构。这一更新直击AI应用开发中的痛点——输出格式的不一致性常常成为与现有系统顺畅集成的绊脚石。
通过引入动态约束解码技术，OpenAI的这项新功能将模型输出牢牢锁定在预定的JSON架构框架内，确保生成的标记既有效又符合规范。这一技术巧妙地将JSON架构转化为无上下文语法，从而能够处理更加复杂和递归的数据结构，相比以往的方法有了质的飞跃。
结构化输出功能以两种灵活的方式呈现给开发者：
- 函数调用方式：开发者可以为工具设置严格的架构遵从性，该功能与GPT-3.5-turbo-0613及以上版本，以及GPT-4-0613及以上版本的模型完美兼容。
- 响应格式选项：新增的json_schema参数让结构化响应不再局限于函数调用，最新推出的GPT-4o模型已支持此功能，为开发者提供了更多选择。
为了简化开发流程，OpenAI还更新了Python和Node SDK，为结构化输出提供了原生支持，使得使用这些语言的开发者能够更轻松地实施新功能。
此外，结构化输出还内置了安全机制，模型能够编程式地检测并处理不安全的请求。一旦模型拒绝这类请求，API响应中将明确包含拒绝信息，帮助开发者快速识别并管理潜在的安全风险。
值得一提的是，OpenAI同步推出了GPT-4o-2024-08-06模型，该模型在遵循复杂JSON架构的测试中表现出色，获得了满分评价。更令人振奋的是，这款模型还伴随着显著的价格优惠：
- 输入成本直降50%，每百万个标记仅需2.50美元。
- 输出成本也降低了33%，每百万个标记费用为10.00美元。
- 相较于之前的GPT-4o模型，总体成本降低了50%。
结构化输出的引入，让开发者能够构建出与现有系统无缝对接、更加稳健的应用程序。例如，它可以在以下场景中发挥重要作用：
- 根据用户的具体需求动态生成用户界面。
- 将最终答案与支撑理由或评论清晰分离，提升响应的透明度和可读性。
- 从非结构化的输入数据中高效提取结构化信息，如从会议记录中自动整理出待办事项和截止日期。
当然，OpenAI也坦诚地指出了结构化输出的一些局限性，比如目前仅支持JSON Schema的一个子集，以及首次使用新架构时可能会因预处理而产生额外延迟（但后续请求将更为迅速）。这些信息为开发者提供了全面的参考，帮助他们更好地评估和应用这一新功能。
文章来源：https://www.maginative.com/article/openai-launches-structured-outputs-slashes-prices-for-gpt-4o/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消