主要收获
- 人工智能改变了网络攻击的经济模式。过去需要一支资金充足的团队才能策划的攻击行动，如今仅凭一名操作者便能轻松实施。
- 攻击者现在能够以比许多防御机制设计出的响应周期更快的速度，测试、调整和轮换战术。
- 人类已不再是唯一的目标。那些代为阅读电子邮件的人工智能系统本身也已成为一个新的攻击面。
- 如今，防御意味着采用多层控制机制并持续改进，而人工智能和机器学习则加速了这些机制的学习进程。
如今，这种威胁已变得无处不在且规模庞大
大多数安全负责人已经意识到，人工智能正在改变网络风险的格局。更棘手的问题在于，这种变化在运营层面意味着什么。人工智能是否让攻击变得更“聪明”了？有时确实如此。但更重要的是，它降低了试验成本，并缩短了从构思、有效载荷、交付到迭代的整个周期。这改变了攻击的经济属性。
这正是我们目前在市场上观察到的现象，也是我们从客户、合作伙伴和智库那里听到的反馈。据由美国、英国、加拿大、澳大利亚和新西兰组成的情报联盟“五眼联盟”称，“前沿人工智能模型预计将超越当前行业的预期，从根本上改变网络攻击和防御能力。这一进程不是以年为单位，而是以月为单位。”
如果你认为这只是遥远未来才需要担心的问题，那么以下几组最新统计数据表明，我们正迅速朝着这个方向发展：
- 目前，82.6%的网络钓鱼邮件都以某种形式包含人工智能（KnowBe4）。
- 人工智能只需五分钟就能生成一封极具欺骗性的网络钓鱼邮件，而人类则需要花费16个小时（IBM X-Force）。
- 完全由人工智能自动生成的钓鱼邮件点击率高达54%，而传统钓鱼活动的点击率仅为12%（独立研究）。
- 网络犯罪的平均突破时间已缩短至29分钟，其中最快的案例仅用时27秒。在一宗有记录的入侵事件中，数据外泄在初始访问后4分钟便已开始（CrowdStrike《2026年全球威胁报告》）
这些统计数据描绘了一幅发展速度远超大多数安全治理体系应对能力的图景，而这还是在前沿人工智能模型尚未广泛普及之前。那么，安全负责人应该从哪些方面做出新的考量呢？答案首先要从理解人工智能如何改变了攻击本身的经济性开始。
工业规模的网络攻击
在人工智能出现之前，针对一家防御严密的组织开展高效的攻击行动需要投入大量资源，包括时间、人力和基础设施。
如今，一名技术娴熟的攻击者能够大幅压缩攻击的每个阶段。过去需要数天才能完成的侦察工作，现在只需几小时甚至几分钟即可完成。钓鱼诱饵过去需要进行大量研究和投入精力，而现在只需一个指令即可生成。过去需要部署测试环境并耗费大量迭代时间的有效载荷测试，其速度现已提升了数个数量级。
随着人工智能和机器学习为攻击手段注入强劲动力，威胁环境已然沦为攻击者的游乐场。微软记录到，在本季度内，黑客每月都会轮换攻击载体，测试哪种格式最能有效绕过电子邮件防御机制：
- HTML附件曾是投放CAPTCHA验证型钓鱼邮件最常见的方式（1月份占比37%），但在2月份，随着SVG文件的使用率激增49%，HTML附件被SVG文件取代了这一地位。
- 3月份，PDF附件的数量增长了四倍多，DOC/DOCX文件的有效载荷增长了近五倍。
- 嵌入PDF文件中的二维码已成为增长最快的传播途径，在本季度基于二维码的网络钓鱼攻击中，其占比高达70%。
一个在1月份经过校准、用于拦截HTML的检测机制，对于3月份可能出现的威胁几乎无法提供任何参考。这并非检测失败，而是防御一种攻击者的必然结果——这种攻击者进行测试、评估和变通的速度，远快于编写特征码的速度。
在人工智能出现之前，个性化服务的成本高得令人望而却步。如今，这一成本已接近于零。
电子邮件攻击不再仅以用户为目标
收件箱过去的设计主要围绕一位核心读者：员工。这种情况正在发生变化。如今，人工智能助手能够快速对电子邮件内容进行摘要、分类并采取相应行动。因此，问题在于：在人类阅读邮件内容以及机器处理邮件内容之前，企业是否会对内容进行审查？
微软自己的基准测试数据显示，Defender 在恶意电子邮件送达后（即邮件已进入收件箱后）平均能清除其中 70.8% 的恶意内容。在此滞留期间：
- 用户可以打开附件、转发消息或点击链接。
- 人工智能助手可以对内容进行总结。
- 副驾驶可以处理嵌入式指令。
2025年6月，研究人员披露了名为“EchoLeak”的漏洞，这是Microsoft 365 Copilot中一个零点击漏洞，其严重性CVSS评分为10分中的9.3分。 该攻击的运作原理如下：攻击者发送一封包含隐藏指令的精心构造的电子邮件。当收件人要求其Copilot总结收件箱内容时，AI会读取隐藏指令，将其解释为命令，并悄无声息地将敏感文档外泄至外部服务器。用户对AI助手的使用方式完全符合其设计初衷。
这改变了电子邮件的威胁模型，而大多数安全架构尚未对此加以考虑。人工智能在阅读邮件时，既没有人类可能具备的怀疑态度、上下文感知能力，也没有人类的直觉。此外，它还能大规模地阅读邮件，能够访问更广泛的数据，继承用户的权限，有时甚至具备远超“阅读”范畴的操作能力。
这一安全挑战还存在另一个层面。 关于人工智能代理内存的研究表明，经过精心设计的文档在由人工智能代理处理后，能够将指令植入该代理的持久内存中——这些指令会无限期地保留下来，并在未来与原始文件毫无关联的交互中悄无声息地触发。这比提示注入更进一步，被称为“内存中毒”。
那些在电子邮件基础设施之上运行人工智能副驾驶、编码助手和代理工作流的组织，实际上在原本就难以有效防御的攻击面之上又增加了一层几乎毫无防护的防护层。大多数组织尚未针对这一情况调整其电子邮件安全策略。
Adaptive AI阴影下的防御
多年来，许多安全项目都是按照周期性流程进行优化的：年度审查、季度调整、定期桌面演练以及按计划的政策更新。这种节奏依然有其价值。但它并非为那些能够迅速变异且规模不断扩大的攻击而设计的。
答案在于自适应防御：这种安全防护层能够随着威胁的演变而不断学习，从每次拦截的攻击尝试、每次误报以及每次事件复盘中持续优化。将前沿人工智能模型用于防御目的，有助于缩短从发现异常到采取行动的时间，揭示人类分析师无法以所需速度处理的模式，并使安全控制措施的演进速度更贴近攻击手段变化的节奏。
这种调整还必须考虑到收件箱中“新读者”的存在。员工可以被引导培养出质疑精神，而人工智能助手在缺乏防护措施的情况下，会根据其处理到的任何内容采取行动。无论读者是人还是机器，在任何读者接触消息和附件之前，都必须将其视为不可信内容并加以中和。
人工智能防御必须注重实用性，充分发挥其优势：更快地进行初步筛查、更早地识别可疑文件、更好地进行跨信号关联分析，并缩短从发现威胁到采取应对措施之间的时间。
能够取得成功的组织，是那些能够将每起事件视为情报而非单纯的已关闭工单的组织。等待合规框架跟上步伐并非有效的防御策略。攻击者已经在从每次尝试中吸取教训，而防御方也已开始效仿，利用人工智能和机器学习来检查、检测和清理电子邮件。
就关键基础设施而言，其肩负着一项仅靠监管无法界定的额外责任。随着数字化进程的加速，这些组织的攻击面也在随之扩大。安全策略不能仅以监管要求的最低标准为基础来制定。
“五眼联盟”联合声明直言不讳地指出：“网络风险已不能再被视为一个纯粹的技术问题。这是核心业务风险，也是领导层的责任。”关于紧迫性问题，声明称：“现在就采取行动的领导者将降低风险敞口、增强韧性，并赢得客户、合作伙伴和投资者的信任。而那些拖延不决者，将面临日益加剧且本可避免的风险。”
更具韧性的应对姿态，始于边界处的分层防御、运营模式中由人工智能辅助的适应性调整，以及将持续改进视为标准实践的预期。关键在于，您的防御措施是否能够快速演进，以跟上时代步伐。
这一点在风险最大的领域——关键基础设施及其核心的物理隔离网络——尤为重要，而下一篇文章将从这里开始。
