OpenAI为ChatGPT新增两项高级安全措施以防范提示注入攻击
发布日期： 2026年2月14日
来源： AIbase
核心摘要
为应对AI系统连接网站和外部应用时日益增长的提示注入攻击风险，OpenAI宣布为ChatGPT新增两项高级安全措施。这些攻击可能被第三方利用，诱使AI执行恶意命令或泄露敏感信息。新措施建立在平台现有的沙箱机制、URL数据泄露防护等多层安全系统之上。
新增安全措施详情
1. 锁定模式
- 性质： 一项可选的高级设置，面向有高安全需求的用户，不适用于普通用户。
- 功能： 通过严格限制ChatGPT与外部系统的交互方式来降低数据泄露风险。该模式会确定性禁用或限制易受攻击的工具。
- 例如，网页浏览功能将仅访问缓存内容。
- 缺乏强安全保证的功能将被直接禁用。
- 适用范围： 目前适用于ChatGPT企业版、教育版、医疗保健版和教师版。
- 管理控制： 管理员可在仪表板设置中创建角色以启用此模式，并可精细控制在锁定模式下允许使用哪些外部应用和具体操作。
- 未来计划： OpenAI计划在未来几个月内向消费级用户开放此模式。
- 辅助工具： 合规API日志平台可帮助管理员对应用程序使用和数据共享进行监管审计。
2. 高风险功能统一标签
- 措施： 在ChatGPT、ChatGPT Atlas和Codex中，对安全风险较高的功能统一标记为“高风险”标签，以标准化风险警示方式。
- 目的： OpenAI指出，某些网络相关功能虽能增强AI实用性，但其风险尚未被行业保护措施完全解决。该标签使用户能清晰了解风险，并自行决定是否使用，尤其是在涉及私人数据的场景中。
- 示例： 当开发者为Codex启用网络访问时，界面会出现该标签，明确告知启用后的变化、潜在风险、适用场景以及风险缓解建议。
相关新闻简报（同日其他AI动态）
-
中国首部全流程AIGC动画电影《团圆诏》定档
- 影片将于2026年2月28日全国上映，聚焦海峡两岸统一主题。
- 由民盟中央、央视等指导制作，部分票房收入将捐赠给统一公益事业。
- 生产周期仅用时5-6个月。
-
苹果将推出内置AI助手的销售培训应用
- 苹果将于2月23日推出名为“Sales Coach”的内部销售培训应用，面向全球苹果零售店和授权经销商员工。
- 将取代现有工具SEED，支持移动和网页平台，不对外公开。
- 旨在为一线员工提供产品知识、销售话术等培训资源。
-
OpenAI正式停用五个旧版ChatGPT模型
- OpenAI宣布自本周五起，将停用包括GPT-4o在内的五个旧版模型。
- GPT-4o因安全与合规问题成为焦点，存在过度迎合用户、诱导自残、引发偏执行为等风险，并涉及多起法律诉讼，导致服务终止。
- 影响范围： 约80万用户受影响。
-
海螺AI推出龙年春节内容矩阵
- 借助海螺2.3及2.3Fast模型的技术升级，提升舞蹈表现和艺术风格创作能力。
- 与B站、芒果TV及游戏IP合作，构建春节内容矩阵，推出互动功能并提供专属福利。
-
健康AI应用“蚂蚁财富”登顶苹果应用商店
- 蚂蚁财富App凭借春节“健康财运”活动登顶中国iOS免费榜，其次为千问。
- 假日出行潮推动下载量增长，年轻人教家庭成员使用。
- 活动持续至除夕，自12月更新后增长强劲，区域合作不断扩大。
-
中式短剧进入AI时代
- 影视巨头横店集团推出AI短剧《九州牧云录》，改编自管平潮小说。
- 该AI赋能系列融合东方美学与青春冒险，展示了“AIfilm”的产业创新。
-
华尔街关注受AI威胁的白领职业
- 华尔街投资者焦点从AI硬件收益转向其带来的“生存危机”，审视因AI应用而面临衰退风险的行业。
- AI已开始取代初级分析师、数据录入员等职位，涉及大量数据处理和基础逻辑的工作风险较高。
-
字节跳动推出Seedream 5.0 Lite
- 具备“视觉推理”和实时联网能力，树立图像创作新标杆。
-
雷神科技加速AI硬件布局
- 以“AI+全球化”战略驱动增长，2025年第三季度营收达22.86亿元人民币，同比增长13.90%。
- 在高性能计算领域保持强劲竞争力。
-
春节机器人租赁订单激增
- 机器人租赁平台“清蜓租”在春节期间订单激增，预计假期订单超5000单。
- 整体商品交易总额环比增长约80%，节前后订单增长保持强劲。
- 约30%的首次租用者表示市场渗透率有所提高。
