AI 安全

方案概述

AI 的采用速度已经超过安全控制的建设速度。员工把合同、代码与客户数据粘贴进公网大模型，形成大量无人管理的“影子 AI”；面向客户的应用接入大模型后，提示词注入、越狱与恶意内容成为新的攻击面；而具备工具调用能力的智能体开始读写文件、调用接口、执行操作，风险也从“说错话”升级为“做错事”——一次被操纵的智能体可能直接触发数据删除或越权操作。

Check Point 以统一的 AI 防御面覆盖三层：在工作力层，对浏览器、SaaS 与 Copilot 中的 AI 使用做发现与可视，识别敏感内容粘贴并自动执行数据防泄漏策略；在应用层，以低延迟内联方式在输入与输出两端拦截提示词注入、越狱与数据外泄；在智能体层，管控其可调用的工具与权限、阻断不安全的自主行为、缓解循环调用导致的拒绝服务风险。

配套的 AI 红队评估以真实对抗手法持续测试模型与智能体的表现，并把发现映射到 OWASP 等风险框架，帮助团队在上线前修补弱点。整个体系遵循“发现—防护—治理”的路径：先看清 AI 在哪里被使用，再在运行时阻断风险，最后用统一策略与审计记录满足合规要求。对计划或已经落地大模型应用的国内企业，宇信安可提供 AI 资产盘点、使用风险分级与护栏策略设计，让创新与管控同步推进。