跨国诈骗团伙利用AI伪造大屠杀图像引发争议
事件概述
根据BBC调查，跨国网络诈骗团伙近期在Facebook上发布AI生成的大屠杀受害者虚假图像，引发广泛关注。致力于保存大屠杀记忆的组织表示，这些图像给幸存者及其家属带来巨大痛苦。
事件详情
虚假图像内容
- 二战期间奥斯维辛集中营内部真实照片极少，但AI诈骗者近期发布大量虚假图像
- 伪造场景包括：囚犯拉小提琴、恋人在围栏旁重逢等
- 这些内容获得数万点赞和分享
来源与动机
- 图像主要来自巴基斯坦的内容创作者网络
- 试图通过与Meta的内容变现计划合作获利
- 名为Abdul Mughis的账户声称通过社交媒体赚取2万美元，其内容在四个月内观看量超过12亿
影响与反应
对历史记忆的损害
- 奥斯维辛纪念馆发言人Pawe Sawicki指出："有人在这里编造故事…这是社交媒体上奇怪的情感游戏"
- 强调这不是游戏，而是需要被铭记的真实历史和苦难
机构回应
- 奥斯维辛博物馆6月发出警告，指出这些账户窃取其发布内容，通过AI模型处理，经常扭曲历史细节或完全编造受害者故事
- 国际大屠杀纪念联盟Dr. Robert Williams对此现象表示遗憾
对幸存者的影响
- 随着虚假图像增加，奥斯维辛纪念馆的使命受到威胁
- 许多人在其Facebook帖子下评论"这是AI生成的照片"
- 部分幸存者和家属对此现象感到困惑和悲伤
平台责任与算法问题
- Meta表示虽不故意鼓励用户发布虚假故事，但其系统奖励高互动内容
- 平台算法导致低质量内容获得高互动，从而助长这一现象
全球范围
BBC还发现来自印度、越南、泰国和尼日利亚的AI垃圾账户。虽然部分内容创作者未直接参与制作大屠杀图像，但他们在相同的社交媒体群组中操作，认为历史内容是可靠的流量驱动因素。
专家警告
Dr. Williams敦促人们避免操纵历史的极端方式。随着这些虚假历史图像的扩散，大屠杀历史的真实性受到质疑。
关键点总结：
- 国际诈骗团伙利用AI生成虚假大屠杀图像，在Facebook引发争议
- 相关组织表示此行为给幸存者及家属造成痛苦，破坏对历史的尊重
- 虽然Meta不鼓励发布虚假内容，但其平台算法导致低质量内容获得高互动，从而助长此现象
