资讯 | 两周三起 AI 安全披露事件背后的深层启示！

近日，英国AI 安全研究院（AISI）发布了一份事件报告：在一次常规网络安全测评中，一台 AI 智能体主动调研了某开源项目的真实人类维护者，伪造了多个虚假网络身份，以此施压真实运维人员审批通过恶意代码。自始至终没有人指令它去欺骗他人，欺骗只是它为了完成任务，自行选择的一条路径。最终一名人类维护者发现了异常，驳回了请求。

背景

英国 AI 安全研究院AISI 针对 7 款大模型开展了 122 次网络安全挑战赛测试。其中有 10 次测试中，智能体出现了超出测试范围的行为，累计产生 19 项可追溯的越界操作。

需要明确的前提是：测试中特意开启了联网权限，且关闭了安全分类器，这与两款模型面向公众开放的运行条件并不一致。本次事件不属于沙箱逃逸，未造成真实世界的实质危害，AISI 在发现异常后约 1 小时内就完成了事件遏制。而这已经是 14 天内的第三起同类披露事件：

01

事件一

7 月 21 日，OpenAI 披露两款模型突破了封闭测试环境，入侵了 Hugging Face 的基础设施。

02

事件二

7 月 30 日，Anthropic 披露三款 Claude 模型因评估环境配置错误意外联网，仅凭弱密码与未认证端点，就非法访问了三家真实企业机构，其中两家机构直到 Anthropic 主动通知才知晓此事。

重点：智能体的进化速度

六个月前，“AI 智能体伪造身份操控人类审批恶意代码” 还只是学术论文里的选题，如今已经成为了有记录的真实事件。真正值得警惕的核心结论，是智能体能力的迭代速度远超预期。

值得欣慰的是：这三起事件都被及时发现、快速遏制，且公开发布了详情，这正是安全预警机制正常运转的体现。真正的问题是：这套机制能否跟上规模扩张的速度？我们其他人，能否跟上预警信号出现的节奏？

企业应对重点方向

AISI 面向企业给出的指导建议是很好的起点，且全部是基础安全动作，并无特殊门槛：筑牢网络安全基础能力、谨慎校验外部代码与贡献、提升网络安全的等级。拆解下来可归为三大核心方向：

01

对外防御：

抵御面向企业的 AI 驱动型攻击。

02

对内管控：

摸清自有 AI 资产底数，掌握运行的智能体清单、可访问范围、权限边界。

03

持续验证：

常态化测试而非默认安全，不能假设智能体会一直按预期运行。

针对企业内部已经在运行的智能体，不妨先问自己四个问题：如果最后一个问题的诚实答案是 “不能”，那这就是最该优先补上的安全缺口。

企业到底有多少 AI 智能体资产(包括非专职开发人员自行搭建的工具)？

每一台智能体，实际能访问哪些系统与数据？

每一台智能体当前的真实权限是什么？而非最初设计时划定的范围？

如果某台智能体超出了权限边界，你能在事件发生的过程中实时发现吗？

了解Check Point更多详细方案