谷歌自曝：AI正把互联网变成“假新闻工厂”？
1. 背景与警告
- 谷歌研究人员警告，生成式人工智能（GenAI）正在用虚假内容毁掉互联网。
- 谷歌在推广GenAI的同时，也制造了虚假信息。
2. 案例分析
- 生成式AI被滥用于篡改人类肖像和伪造证据，目的是影响公众舆论、诈骗或牟取利益。
- 大多数滥用行为属于系统的正常使用，占9成，没有越狱行为。
3. 数据来源及偏见
- 研究素材主要来自媒体报道，可能带有媒体偏见，更多未被报道的滥用行为存在。
4. 技术绕过
- AI工具的“围栏”可以被提示巧妙避过，如ElevenLabs的语音克隆和Civitai用户生成名人图像。
5. 社会影响
- 虚假信息泛滥让人们辨别真假的能力受考验，可能阻碍信息检索，扭曲社会政治现实或科学共识。
6. 谷歌的反思
- 谷歌在推动GenAI发展的同时也助长了虚假内容的传播，现在面临自我反省和救赎。
论文地址
