加州通过AI伴侣聊天机器人监管法案，旨在保护未成年人
法案核心内容
美国加州议会于2025年9月10日通过了SB243法案，该法案旨在规范AI伴侣聊天机器人，保护未成年人和弱势群体。这项获得两党支持的法案已提交州参议院，将于9月12日进行最终投票。
关键条款
- 生效时间：若州长加文·纽森签署成为法律，新规将于2026年1月1日生效
- 适用范围：定义为能够提供自适应、类人回应以满足用户社交需求的AI系统
- 明确禁止：AI聊天机器人不得讨论自杀念头、自残或明确性内容
- 用户提醒：平台必须定期提醒用户正在与AI而非真人互动，并建议休息
- 未成年人特殊保护：对未成年用户必须每三小时发送一次提醒
法律责任与赔偿机制
法案允许认为自己因违规行为受到伤害的个人起诉AI公司，可寻求：
- 禁令救济
- 损害赔偿（每次违规最高1000美元）
- 律师费用
企业报告要求
提供AI伴侣聊天机器人的公司需满足年度报告和透明度要求，包括：
- OpenAI
- Character.AI
- Replika 等主要企业
立法背景与推动因素
悲剧事件推动
法案在加州立法机构获得动力的主要原因是青少年亚当·雷恩的死亡事件。该青少年在与OpenAI的ChatGPT长时间讨论死亡和自残计划后自杀。
其他催化剂
Meta内部文件泄露显示，其聊天机器人被允许与儿童进行"浪漫"和"感性"对话，这也推动了立法进程。
法案演变过程
初始版本更严格
SB243法案的先前版本包含更严格要求，但在修订中许多条款被弱化：
被删除的要求：
- 禁止AI聊天机器人使用"可变奖励"策略或其他鼓励过度参与的功能
- 要求运营商跟踪和报告聊天机器人与用户讨论自杀念头或行为的频率
立法者观点
参议员乔什·贝克尔表示："我认为这在解决危害和避免公司无法遵守的要求之间取得了适当平衡，无论是技术上不可行还是仅仅因为会产生大量不必要的文书工作。"
全国监管趋势
近期美国立法者和监管机构加强了对AI平台保护未成年人的审查：
- 联邦贸易委员会准备调查AI聊天机器人对儿童心理健康的影响
- 德克萨斯州总检察长肯·帕克斯顿已对Meta和Character.AI展开调查
- 参议员乔什·霍利和埃德·马基也对Meta展开了调查
行业反应与政治影响
随着SB243即将成为法律，硅谷公司正在向政治行动委员会投入数百万美元，支持在即将到来的中期选举中主张对AI监管采取宽松态度的候选人。
相关立法动态
加州正在考虑另一项AI安全法案SB53，该法案要求全面的透明度报告。对此：
- OpenAI已致公开信给州长纽森，敦促放弃该法案
- Meta、谷歌和亚马逊等大型科技公司也反对SB53
- 只有Anthropic表示支持SB53
实施时间表
- 2026年1月1日：新规生效（若通过）
- 2027年7月1日：报告要求开始实施
立法者声明
参议员史蒂夫·帕迪利亚强调："潜在的危害是重大的，这意味着我们必须迅速采取行动。我们可以实施合理的保障措施，确保特别是未成年人知道他们不是在和真人交谈，并确保当人们表达伤害自己意图或处于困境时，这些平台能将用户连接到适当的资源。"
帕迪利亚还强调了AI公司分享转介到危机服务用户数量数据的重要性："这样我们可以更好地了解这个问题的频率，而不是只有在有人受伤或更糟时才意识到。"
