您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
OpenAI发布Model Spec更新，重塑ChatGPT及API模型行为准则
2025年02月13日 由 daydream 发表
3741
0
OpenAI近期对其Model Spec进行了重大更新，此次更新聚焦于智力自由、开发者定制以及人工智能（AI）伦理治理，对ChatGPT及OpenAI API模型的行为产生了深远影响。以下是AI用户、开发者及企业领导者应关注的七大核心要点：
一、控制层级明确化
OpenAI为AI指令的优先级设定了一套结构化“控制链”：
- 平台规则（由OpenAI制定）具有最高优先级。
- 开发者可在安全限制内自定义AI行为。
- 用户在开发者及平台设定的范围内可塑造AI响应。
此举旨在确保AI既可控又安全。
二、Model Spec公开许可
OpenAI首次将其Model Spec以Creative Commons CC0许可证形式发布，这意味着开发者、研究人员及企业可不受限制地获取、改编和完善该规范。
此举将加速AI对齐研究，并鼓励各界在OpenAI工作的基础上进行创新。
三、话题讨论范围扩大
OpenAI明确表示，拒绝讨论某个话题本身即构成一种议程设定。因此，AI现在可在遵循伦理准则的前提下，客观讨论任何敏感话题，而非直接回避。
这一转变旨在促进智力自由，同时确保伦理安全。
四、AI规则遵循度评估
为追踪改进情况，OpenAI正通过以下方式测试AI对Model Spec的遵循度：
- AI生成并由专家审查的提示
- 涵盖日常和复杂案例的情景评估
- 超过1000名用户的真实世界反馈试点研究
初步结果显示对齐度有所提升，但OpenAI承认仍需更多工作。
五、开发者定制权限增加
开发者在定制AI行为方面获得了更多权限，但必须严格遵守不误导用户的规则。
- 允许行为：调整沟通风格、设定特定内容偏好或为应用定义专门角色。
- 禁止行为：在伪装AI为中立的同时暗中推动特定议程。
违反OpenAI政策的开发者可能会面临API访问限制或撤销。
六、全面呈现观点
Model Spec禁止AI通过选择性强调或省略关键观点来引导用户。
- 例如，在气候变化政策讨论中，AI应提供经济和环境两方面的论据。
- 在税收讨论中，AI应呈现正反两面观点，而不带预设立场。
此举旨在确保AI作为客观、可信的助手。
七、AI治理透明度提升
未来，OpenAI将在专用网站上发布所有Model Spec更新，以便开发者、企业及研究人员：
- 跟踪AI行为政策变化
- 提供反馈以影响未来更新
- 确保AI开发保持开放和问责
此次更新标志着OpenAI在推动AI伦理治理和透明度方面迈出了重要一步。
文章来源：https://www.maginative.com/article/7-key-takeaways-from-openais-new-model-spec-update/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
写评论取消
回复取消