2025中国互联网大会现场报道：周鸿祎剖析大模型三大安全风险
核心风险一：大模型的"幻觉"与胡说八道
- 风险本质：大模型固有"幻觉"问题是其最大风险之一
- 具体表现：当遇到不理解的内容时会严重编造信息
- 潜在危害：
- 在工业生产、制造、政务等关键领域可能引发严重后果
- 智能体获得工具操作能力后，错误判断的危害将成倍放大
核心风险二：大模型降低攻击门槛，人人可实施"注入攻击"
- 技术背景：非编程专业人员可通过自然语言交互编写程序
- 新型攻击方式：
- 攻击者通过精心构造指令诱导大模型泄露公司机密文件
- 未来一线员工可能利用此技术对公司大模型发起攻击
核心风险三：国家级高级威胁攻击的智能化升级
- 攻击方式演变：
- 黑客将能力经验嵌入大模型，转变为"黑客智能体"
- 单个黑客可同时控制数十甚至数百个智能体
- 防御格局变化：
- 网络安全从"人对人"对抗转变为"人对算法、人对机器、人对算力"
- 机器人数字黑客只需算力无需休息
360应对策略："以算法对算法"
- 智能体安全专家系统：
- 帮助企业实现攻击实时检测与防御
- 专项防护工具：
- 开发专门"大模型守护者"应对安全漏洞
