深度伪造内容激增与Meta的应对措施
随着生成式人工智能的商业化，网络上的虚假内容急剧增加。根据身份验证平台Sumsub的数据，全球深度伪造（deepfakes）的数量从2023年到2024年翻了四倍。预计在2024年，深度伪造将占所有欺诈行为的7%，涉及冒充、账户接管和复杂的社交工程活动等多种形式。
Meta推出Meta Video Seal工具
为应对这一问题，Meta发布了一款名为Meta Video Seal的新工具，旨在通过嵌入不可察觉的水印来打击AI生成视频中的深度伪造。该工具于周四开源，并设计用于轻松集成到现有软件中，与之前发布的Watermark Anything和Audio Seal工具相互补充。
Pierre Fernandez（Meta的人工智能研究科学家）表示：
我们的目标是开发更有效的视频水印解决方案，特别是为了检测AI生成的视频并保护原创性。
水印技术对比
尽管Video Seal并不是第一个提出的视频水印技术，DeepMind的SynthID和微软的水印方法已经投入使用。Fernandez指出现有的水印工具通常存在一些缺点：它们在视频压缩后表现不佳（这是社交媒体平台上内容分享的常见现象）；某些方法效率低下且无法复制或打开；许多方法源自图像水印，不适合用于视频。
Video Seal的功能
除了水印功能外，Video Seal还可以在视频中嵌入隐藏信息，以便之后追溯视频来源。Meta声称，Video Seal可以有效抵御常见的编辑技术（如模糊和裁剪）以及广泛使用的压缩算法。
面临的挑战与局限性
Fernandez也承认了Video Seal的一些限制，尤其是在平衡水印的可感知性和抗篡改能力之间存在困难。过度压缩或重大编辑可能会破坏水印或使其无法恢复。
Meta面临的更大挑战是：
开发者和行业专业人士缺乏使用Video Seal的动力，尤其是那些已经采用其他专有解决方案的人士。为此，Meta推出了一项名为Meta Omni Seal Bench的公共排行榜来比较不同水印技术的表现，并将在今年的主要AI大会ICLR上举办关于水印技术的研讨会。
Fernandez表示：
我们希望越来越多的AI研究人员和开发人员能将某种形式的水印技术整合到他们的工作中，并期待与业界和学术界合作以加速这一领域的进展。
