您尚未登录账户
您的企业账号申请正在审核中
OpenAI开发ChatGPT水印技术
据《华尔街日报》最新消息，OpenAI已成功研发出一套专为ChatGPT生成的文本添加水印的系统，以及配套的水印检测工具，这一成果已默默酝酿近一年之久。然而，OpenAI内部对于是否公开这项技术却陷入了两难的境地：一方面，此举被视为展现责任感的重要举措；另一方面，又恐其可能侵蚀公司的经济利益。
OpenAI的水印技术核心在于微妙地调整模型预测，让输出的文本中自然而然地融入可辨识的特定模式，这些模式能够成为AI生成内容的独特“指纹”。简而言之，就是通过对单词和短语选择的微妙操控，创造出一种可被检测到的规律（具体技术细节可参照谷歌对Gemini文本水印技术的详尽解析）。
对于教育工作者而言，这一技术无疑是一大福音，他们长期面临着学生利用AI完成作业的难题。据《华尔街日报》报道，OpenAI的研究显示，水印技术的引入并未对ChatGPT的文本质量造成负面影响。一项由OpenAI委托的调查更是指出，全球范围内，支持引入AI检测工具的声音远超反对者，比例高达四比一。
在《华尔街日报》的报道之后，OpenAI通过其官方博客发布了一篇文章，正式确认了水印技术的研发进展。OpenAI声称，该技术具备极高的准确性（据《华尔街日报》披露的文件显示，准确率高达99.9%），且能有效抵御诸如改写等篡改手段。然而，OpenAI也坦诚，通过换用其他模型重新组织语言等方式，恶意用户仍有可能规避检测。此外，公司还表达了对水印技术可能给非母语使用者带来负面影响的担忧，担心这项技术会让他们在使用AI工具时遭受不必要的偏见。
值得注意的是，OpenAI在调研中发现，约有30%的用户表示，如果实施水印技术，他们将减少使用ChatGPT的频率，这一反馈让公司倍感压力。尽管如此，仍有部分员工坚信水印技术的有效性。为了平衡用户情绪与技术需求，《华尔街日报》透露，有建议提出尝试其他可能争议较小但尚未经充分验证的方法，如嵌入元数据。OpenAI在最新的博客文章中透露，公司正处于探索嵌入元数据的初期阶段，虽然目前尚难断言其效果，但因其基于密码学签名，理论上可避免误报问题。
