包括OpenAI、微软、谷歌、Meta、亚马逊、Anthropic和Inflection在内的七家公司承诺开发技术来为人工智能生成内容提供清晰的水印。拜登政府希望这将有助于在分享人工智能生成的文本、视频、音频和图像时，更安全地避免误导他人对内容的真实性产生质疑。

目前尚不清楚水印的工作原理，但它可能会嵌入到内容中，使用户可以追溯其生成所使用的人工智能工具的来源。



深度伪造技术已经成为互联网用户和政策制定者关注的问题，同时科技公司也在努力应对对人工智能工具的争议性使用的问题。

今年早些时候，图像生成器Midjourney被用来制作唐纳德·特朗普(Donald Trump)被捕的假图片，随后该图片迅速走红。尽管对许多人来说这些图片明显是伪造的，Midjourney仍决定采取措施禁止制作这些图片的用户。也许如果当时有可用的水印技术，用户贝灵猫(Bellingcat)创始人埃利奥特·希金斯(Eliot Higgins)就不会因为他说自己并不是在尝试聪明制造假象，而只是为了与Midjourney玩乐而面临如此严重的后果。

然而，还有其他更严重的对人工智能工具的滥用，水印技术可能有助于保护一些互联网用户免受伤害和纷争。今年早些时候有报道称，人工智能语音生成软件被用于骗取人们数千美元，就在上个月，美国联邦调查局警告称，越来越多的恶意分子在色情敲诈计划中使用人工智能生成的深度伪造技术。

白宫表示，水印技术将使“借助人工智能进行创造性工作得以蓬勃发展，同时减少欺诈和误导的危险”。

OpenAI在其博客中表示已经同意“开发稳健的机制，包括用于音频或视觉内容的来源和/或水印系统”，以及“用于确定某个内容是否使用了他们系统创建的工具或API”。这适用于大多数人工智能生成的内容，但会有一些例外，例如未对人工智能助手的默认语音进行水印处理。

OpenAI表示：“可以很容易与现实区分开来或者被设计为公司人工智能系统生成的内容，例如人工智能助手的默认语音，不在此承诺的范围之内。”

谷歌表示，除了水印技术，他们还将“整合元数据”和“其他创新技术”，以“促进可信赖的信息”。

随着对人工智能滥用的担忧日益加剧，乔·拜登总统将于今天与科技公司会面。这将有助于拜登总统和国会在制定行政命令和两党立法方面获得重要见解，以取回对快速发展的人工智能技术的控制权。

在一篇博客中，微软赞扬拜登政府的举措，“为确保人工智能的承诺始终超越风险奠定了基础”，“将科技行业聚集在一起，制定具体措施，使人工智能更加安全、更加有益于公众”。

承诺提供更多人工智能保障措施

除了为人工智能生成内容开发水印，科技公司还在上周白宫宣布的一系列自愿承诺中做出了其他一些承诺。

其中，科技公司同意在发布前对人工智能系统进行内部和外部测试。他们还表示愿意在网络安全方面投入更多，并在整个行业间分享信息，以帮助降低人工智能风险。这些风险包括人工智能带来的偏见或歧视以及降低先进武器研发的障碍，OpenAI的博客中提到。微软的博客中强调了其对白宫作出的其他承诺，包括支持建立一个记录高风险人工智能系统的国家注册表。

OpenAI表示，科技公司做出这些承诺是“推动有意义和有效的人工智能治理迈出的重要一步，无论是在美国还是全球范围内”。这家开发ChatGPT、GPT-4和DALL-E 2的公司还承诺“投资研究一些可以帮助制定监管政策的领域，例如评估人工智能模型中潜在危险能力的技术”。

Meta全球事务总裁尼克·克莱格(Nick Clegg)对OpenAI的观点表示赞同，称科技公司的承诺是“确保人工智能建立负责任的防护壁垒的重要第一步”。

谷歌称这些承诺是“让整个产业团结一致、确保人工智能造福于每个人的一个里程碑”。

 

来源：https://arstechnica.com/ai/2023/07/openai-google-will-watermark-ai-generated-content-to-hinder-deepfakes-misinfo/