深度分析：AI生成文本引发的法律争议
最近，一起联邦诉讼中针对明尼苏达州有关“使用深度伪造技术影响选举”的法律引起了新的争议。原告方在最新的法律文件中指出，支持该法案的证词可能包含由人工智能（AI）生成的文本。
事件背景
根据明尼苏达改革者报告，该州检察长Keith Ellison曾请求Jeff Hancock提供相关证据，Hancock是斯坦福社交媒体实验室的创始主任。然而，在他的证词中提到的几项研究缺乏实质性证据，并显示出可能存在AI“幻觉”的迹象。
存在争议的研究
- 2023年发表于《信息技术与政治期刊》题为“The Impact of Deepfake Videos on Political Attitudes and Behavior”（深度伪造视频对政治态度和行为的影响）的研究并未有记录显示该研究存在于该期刊或其他出版物中。
- 题为“The Illusion of Deepfakes and Authenticity: The Cognitive Processes Behind Acceptance of Misinformation”（深度伪造和真实性的幻觉：接受错误信息的认知过程）的另一项研究也缺乏实证证据。
法律团队反应
明尼苏达州代表Mary Franson和保守派YouTuber Christopher Khols的律师在文件中指出：“这些引用明显表现出AI‘幻觉’的特点，暗示至少部分内容是由像ChatGPT这样的大型语言模型生成的。”他们进一步强调，这种情况使得整个证词的可信度受到质疑，特别是在其许多论点缺乏方法论和分析支持的情况下。
影响及讨论
Hancock目前尚未对此事件作出回应。此事件引发了关于人工智能在法律领域应用的广泛讨论，特别是如何确保涉及公共利益和选举的信息准确性和可靠性的问题。
这不仅是对深度伪造技术影响的关注，也为法律界处理与AI相关的证据提出了新的考量。有效区分并验证信息来源已成为法律实践中面临的重大挑战。
关键要点
- 明尼苏达州深伪法案的证词可能由AI生成文本支持。
- 引用的研究不存在，表明可能存在AI“幻觉”。
- 此事件引发了关于人工智能在法律文件中使用的问题讨论，关注信息准确性。
