资讯 | AI时代，安全管理需要建立新的使用理念

随着生成式人工智能技术的快速发展，诈骗手段正变得更加智能化和隐蔽化，例如利用AI合成语音伪造亲友求助信息，或借助节日热点场景实施钓鱼攻击。在AI深度融入互联网生态的背景下，网络安全风险正在发生结构性变化，企业与个人正面临全新的安全挑战。

Check Point的研究人员发现，一场大规模钓鱼活动正利用微软Teams的访客邀请冒充账单提醒，诱使用户拨打虚假客服电话。攻击者隐藏在明处，协作工具成为一个新的攻击面。此次攻击行为致使：

近年来，生成式人工智能（GenAI）正加速普及。从内容创作辅助、图像生成到智能客服与业务自动化，AI已深度融入企业生产流程和个人数字生活，逐渐从单一工具角色转变为影响信息获取、内容生成和决策判断的重要参与者。

然而，AI的广泛应用也带来了新的安全隐患。安全研究显示，在企业网络环境中，GenAI交互过程中存在明显的数据泄露风险。大量用户在使用AI工具时，往往无意识输入企业敏感信息或个人隐私数据，使AI系统成为潜在的数据暴露入口。更令人担忧的是，91%使用GenAI工具的机构都曾受到过高风险提示词的影响。

随着AI逐渐参与业务流程和决策支持，其安全性已直接影响企业运营稳定性与数据合规水平。因此Check Point认为新一年的挑战不在于“是否使用 AI”，而在于“如何安全地使用它”。

随着AI工具广泛应用，安全风险不仅来源于系统漏洞，也越来越受到用户行为影响。人们在日常工作、生活中往往同时使用多种AI工具，高频数据交互显著增加数据泄露概率。此外，生成式AI技术使图像、语音乃至视频内容均可能被伪造，信息真实性验证正成为新的数字安全能力。

Check Point安全专家认为，在AI时代，安全管理需要建立新的使用理念，包括提升对AI输出内容的验证意识，减少敏感信息输入，并加强对深度伪造技术的识别能力。