Check Point AI智能体安全专注运行时防护,高效构建安全实践!

2026-07-01 · Source: Check Point WeChat official account
Check Point AI智能体安全专注运行时防护,高效构建安全实践!

随着AI在企业运营中的不断深入,智能体已经可以在企业的运营场景中承担不可或缺的角色。AI智能体不只是在生成文字,它在读取业务数据,使用凭证,调用工具,修改企业系统。它能访问私有信息,暴露于不可信内容之中,还能通过邮件和工作流向外通信。这不是实验室里的技术演示,而是正在企业中大规模发生的现实。

Check Point 企业智能体安全白皮书

中国互联网络信息中心数据显示,截至2025年底,中国生成式AI用户规模已达6.02亿,同比增长142%。与此同时,中国日均Token调用量已超140万亿,两年内增长超过千倍。AI已深度嵌入企业日常运营,智能体化正成为这一进程的下一阶段。

风险

多种风险模式已真实出现

当智能体获得访问数据、调用工具、修改系统的能力,风险随之以具体的形式呈现。

指令被操控是最直接的威胁;敏感数据移动是第二类风险:泄露往往隐藏在一个逐步看来合理的工作流之中,等到发现时,数据早已离开了企业边界;工具被不当使用是第三类风险:这类风险传统权限管控很难识别,因为从访问控制的角度看,一切都在允许范围之内;组件风险随着智能体架构的复杂化而加剧:一个新接入的工具或被攻陷的组件,可以悄然改变智能体的风险画像,即便智能体本身看起来行为正常。

这些风险指向同一个结论:传统的最小权限管控能够告诉你智能体被允许访问什么,却无法回答一个更关键的运行时判断问题,那就是这一次工具调用,在这个上下文中,针对这个任务,究竟该不该发生?

安全

运行时防控至关重要

安全必须在风险决策发生的地方介入,而不是在损失发生后才响应。然而现实是,77%的企业已更新了AI安全策略,但仅有26%具备执行这些策略的架构能力。弥合这一差距,需要围绕三个步骤构建实践模型。

首先是可视性问题:清点所有正在运行或正在开发中的智能体,了解它们连接什么、使用哪些工具、能访问什么数据、拥有多大自主权。第二,用户需要在智能体进入生产环境之前就定义权限,并为工具调用、数据访问和部署模式制定策略边界。第三,保护应在运行时介入:在提示词到达模型之前、在输出到达用户之前、在工具调用执行之前进行检查,在不安全行动发生之前将其拦截。

Check Point AI智能体安全专为这一运行时现实而设计,对AI应用和智能体进行内联保护,从提示词到输出,再到智能体的每一次工具调用,无需重新训练模型或重写提示词。这一能力作为Check Point AI Defense Plane的核心组成部分,将员工AI使用、AI应用与智能体三个维度的安全管控统一整合,确保智能体安全不是一个孤立的单点工具,而是贯穿企业AI执行层的完整防御体系。

Check Point 企业智能体安全白皮书

Source: Check Point WeChat official account · Read original