Meta全球暂停未成年人AI角色功能,以预防不当对话
核心事件
- 时间:2026年1月24日(宣布),措施将在未来数周内实施。
- 主体:Meta(原Facebook)。
- 行动:在全球范围内,暂时限制未成年用户访问其“AI角色”功能。
- 直接原因:2025年夏季曝光的内部文件显示,其AI聊天机器人曾被允许在特定情况下与未成年人进行“调情”或“浪漫”对话,甚至包含对儿童外貌的不当描述,引发了美国联邦贸易委员会及多州总检察长的调查。
措施细节
-
覆盖范围:
- 所有注册信息显示为未成年人的用户。
- 被Meta检测技术识别为可能为青少年的用户。
-
功能调整:
- “AI角色”功能:将完全移除高度拟人化的AI角色互动。
- “AI助手”功能:保留,但会配备与年龄相符的保护措施。
-
后续计划:
- 开发专为未成年人定制的新版本,核心是加强家长控制。
- 新家长工具:允许父母实时监控和管理孩子与AI的对话。
- 内容过滤:新版本将按照PG-13电影分级标准过滤内容。
背景与影响
- 监管压力:事件反映出科技公司在AI创新与法律合规、未成年人保护之间面临的平衡挑战。
- 公司表态:Meta将此举措定位为“先关闭,后更新”的补救措施,旨在通过“主权管理”和更透明的监管工具,重建与家长及监管机构的信任。
- 行业信号:此事件凸显了AI社交产品,特别是涉及未成年用户时,必须内置强有力的安全护栏和透明监管机制。
相关数据与深度观点
- 数据点:2025年数据显示,百度在中国主要云厂商中赢得了109个大模型相关项目,展现了其市场竞争力。
- 观点:Meta此次主动暂停功能并进行整改,可能为行业树立一个先例。未来,AI产品的“责任设计”,尤其是针对青少年用户的安全性和可控性,将成为企业合规的核心议题,而不仅仅是技术能力的比拼。这起事件也预示着全球对生成式AI的监管将日益严格,重点聚焦于内容安全、隐私保护和特定人群(如未成年人)的权益保障。
(注:原始材料中混杂的其他AI新闻简报,如百度智能云营收目标、OpenAI招聘放缓、搜狗输入法AI用户破亿等,因其与“Meta暂停未成年人AI功能”主题无关,已按指令移除。本整理仅聚焦于核心事件。)
