Meta推出开源AI视频水印工具对抗深度伪造

深度伪造（Deepfake）的兴起与应对策略

近年来，随着生成式AI的发展，网络上的虚假内容急剧增加。根据验证平台Sumsub的数据，全球深度伪造的数量从2023年到2024年增长了四倍。在2024年，7%的所有欺诈行为涉及深度伪造，包括身份盗用、账户劫持及复杂的社交工程攻击等。

为有效打击深度伪造现象，Meta近期发布了一款几乎无法检测的水印工具——Meta Video Seal。该工具已于周四以开源形式公布，并计划集成到现有的软件中。这款工具与Meta其他水印工具（Watermark Anything和Audio Seal）协同工作，共同构成全面的水印解决方案。

研发动机：Meta AI研究员Pierre Fernandez在接受TechCrunch采访时表示：“我们开发Video Seal是为了提供更有效的视频水印方案，特别是用于检测AI生成的视频并保护原创性。”
与其他技术对比：虽然DeepMind的SynthID和微软都有自己的视频水印方法，但Fernandez认为它们在抗视频压缩、操作效率以及开放性和可重复性方面存在不足。

Video Seal不仅可以添加几乎不可检测的水印，还可以嵌入隐藏信息来追溯来源。Meta声称该工具能抵抗常见的编辑操作（如模糊和裁剪）及普遍的压缩算法。

技术局限：Fernandez承认Video Seal在高强度压缩和重大编辑情况下可能无法保持其有效性。
行业激励不足：由于现有企业已有自己的专有解决方案，Meta试图通过发布名为“Meta Omni Seal Bench”的公共排行榜来比较各种水印方法的性能，并计划在ICLR会议上组织研讨会以促进业界合作。

尽管Meta Video Seal提供了对抗深度伪造的新思路，其广泛应用和效果仍需时间检验。开源与协作或许能有效应对这一复杂问题。