上海网信办开展专项整治：下架54款违规AI应用，处罚3家网站
专项行动概况
上海市网信办近期启动了名为"AI滥用"的专项执法行动，旨在解决生成式人工智能技术相关的违规问题。随着生成式AI的快速发展，这项技术虽然为各行各业带来便利，但也引发了滥用问题。
违规行为分析
执法人员在行动中发现：
- 部分企业在开发和使用生成式AI时未按要求进行安全评估
- 未采取必要的安全防护措施
- 导致技术被用于换脸、变声、伪造等侵权行为
- 可能产生"人肉搜索"、"洗钱"等非法内容
- 生成低俗色情图片
执法成果
应用下架情况
- 下架违规生成式AI应用：54款
- 指导本地应用商店进行清理
网站处罚情况
- 对26家曾被要求下架功能的生成式AI服务网站进行跟踪检查
- 首次行政处罚：对3家拒不整改的网站
- 首次适用《生成式人工智能服务管理暂行办法》
执法特色
柔性执法措施
- 对首次违规企业给予免罚机会
- 要求下架相关违规功能
- 指导完成备案流程
技术支持
- 依据《互联网信息服务深度合成管理规定》
- 专家团队为企业提供实操分析
- 帮助企业解决相关困难
行动意义
此次专项行动：
- 重点解决AI滥用问题
- 促进新兴产业健康发展
- 显著提升企业合规意识
- 加强了对生成式AI技术的监管
核心要点：
- 下架54款违规生成式AI应用，强化监管力度
- 对3家拒不整改网站实施行政处罚，首次适用相关管理规定
- 企业合规意识显著提升，促进新技术健康发展
