您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
微软Azure推出AI错误自动修正功能预览
2024年09月25日 由 daydream 发表
143
0
微软近期在Azure AI Studio中发布了名为“修正”的新功能预览版，该功能是微软为提升AI系统准确性而推出的又一举措。Azure AI Studio是一套旨在检测漏洞、识别“幻觉”输出及阻止恶意提示的安全工具套件。通过此新功能，使用Azure驱动AI系统的客户能够自动检测和重写AI输出中的错误内容。
一旦启用，“修正”系统会将AI输出与客户的原始材料进行比对，以识别并标记其中的不准确之处。随后，系统将指出错误并提供错误原因说明，同时自动重写有问题的内容，这一切都在用户发现错误之前完成。尽管这一功能有望解决AI模型常有的无意义输出问题，但其可靠性尚待验证。
值得注意的是，谷歌云平台Vertex AI也提供了类似功能，通过将其AI模型输出与谷歌搜索、内部数据（及即将引入的第三方数据集）进行比对，以“锚定”模型输出。
微软方面表示，“修正”系统利用小型和大型语言模型将输出与基准文档对齐，但并未完全解决“准确性”问题，而是有助于使生成式AI输出与基准文档保持一致。这一声明强调了该功能在提升AI输出一致性方面的作用，同时指出了其在绝对准确性上的局限性。
文章来源：https://www.theverge.com/2024/9/24/24253452/microsoft-correction-ai-safety-tool-fix-errors
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消