您尚未登录账户
您的企业账号申请正在审核中
Meta推出视频水印工具应对深度伪造内容激增
随着生成式人工智能技术的普及，网络上的虚假内容呈现爆炸式增长。据身份验证平台Sumsub的数据显示，从2023年到2024年，全球范围内的深度伪造（deepfakes）数量增加了四倍。2024年，深度伪造在所有欺诈行为中占到了7%，涵盖冒充、账户接管以及复杂的社会工程学攻击等多种手段。
为了应对这一挑战，科技公司Meta近日推出了一款名为“Meta Video Seal”的工具，旨在为AI生成的视频片段添加难以察觉的水印。该工具于周四宣布，并以开源形式提供，旨在集成到现有软件中。此外，Meta还重新发布了其另一款水印工具“Watermark Anything”，并推出了音频水印工具“Audio Seal”。
Meta Video Seal旨在提供一种更有效的视频水印解决方案，特别是用于检测AI生成的视频并保护原创性。据Meta的AI研究科学家介绍，尽管市场上已存在其他视频水印工具，如DeepMind的SynthID和微软的视频水印方法，但这些工具在应对视频压缩、大规模运行效率、开放性和可重复性等方面存在不足，或是从图像水印技术衍生而来，对视频而言并非最优选择。
Meta Video Seal不仅能添加水印，还能在视频中嵌入隐藏信息，以便后续追踪视频来源。Meta声称，该工具能够抵御模糊、裁剪等常见编辑操作以及流行的压缩算法。然而，该工具也面临一些限制，特别是在水印的可感知性与对抗操纵的鲁棒性之间存在权衡。重度压缩和显著编辑可能会改变水印或使其无法恢复。
此外，Meta Video Seal的推广也面临挑战，因为开发者和行业可能没有足够的动力去采用它，特别是那些已经使用专有解决方案的机构。为了应对这一问题，Meta正在推出一个名为“Meta Omni Seal Bench”的公共排行榜，用于比较各种水印方法的性能，并计划在今年于国际学习表示大会（ICLR）上举办水印技术研讨会。
Meta方面表示，希望越来越多的AI研究人员和开发者能在其工作中集成某种形式的水印技术，并与行业和学术界合作，以加快该领域的发展。
