人工智能引发的数据爆炸正在重塑金融服务的安全格局

假设有一条电汇指令以“干净”的PDF格式发送过来。其中没有格式错误的代码，没有已知无效的签名，发件人身份看似合理，元数据通过了所有自动化检查——但这一切完全是伪造的，仅需几美分就能由模型生成，且与真品毫无二致。其来源没有任何破绽，因为它根本没有人类作者。了解PDF拼接技术

当今使用的绝大多数文件安全控制措施都基于一个沿袭至今的假设：文件是由人创建的。这一假设决定了文件的生成速度、积累速率，以及用于判断异常情况的“正常”标准。这一假设沿用数十年之久，因为每份文件的处理成本取决于人力投入，而处理量的上限则由人员数量决定。

生成式人工智能打破了这一限制。全球数据总量从2019年的45泽字节增长到预计2025年的175泽字节（增幅达289%），并预计到2029年将达到527泽字节（IDC）。但数据量只是故事中次要的一半。 更具深远影响的变化在于数据来源：据估计，目前企业新生成文件的40%至50%由机器生成，且往往无法可靠地识别出人类作者。

增长率也印证了这一点。在人工智能时代之前，企业文件生成量每年增长约20%至23%。对于已实现人工智能驱动工作流标准化的组织而言，目前文件总量年增长率估计为55%至68%。 企业生成式AI的采用率在短短一年内几乎翻了一番，从33%升至71%（斯坦福大学HAI），且三分之二的企业表示生产力得到了可量化的提升（德勤）。文件生成量首次脱离了员工规模的增长轨迹，而这两条曲线之间不断扩大的差距，正是新的安全风险所在。

金融服务行业比其他所有行业更早经历了文件量的激增，因为该行业拥有其他大多数行业所缺乏的三大文件生成引擎，而生成式人工智能则同时加速了这三者的发展。

首先是合成数据，这是规模最大但最不引人注目的驱动力。训练欺诈检测、反洗钱和信用模型所需的数据规模，往往受到隐私法规的限制；生成式人工智能通过生成统计上逼真的合成记录，解决了这一限制——这些记录在反洗钱测试中的实用性与生产数据相当，达到96%至99%。单个机构在每个训练周期内即可生成数十亿条记录，且每一条都是经过存储、管理并受到安全保护的数据资产。

第二类是KYC文件，这是最易于量化的类别，因为它是强制要求的。人工智能提高了每位分析师的处理量，并引入了全新的文件类型：机器生成的风险描述、负面媒体摘要以及所有权图谱。据Juniper Research预测，到2030年，全球KYC/KYB系统支出将增长约40%，达到305亿美元；全球身份验证检查次数将从2024年的750亿次攀升至2025年的860亿次，每次检查都意味着一份需要采集、存储和审查的文件。

第三点是，在以往从未产生大量内容的各个职能部门（销售、市场营销、法务、人力资源、风险管理）中直接应用大型语言模型（LLM）。据估计，各职能部门的产出量已增长了3至5倍，且各机构报告称，其需要产出的内容量同比增长了54%（德勤）。 四分之三的英国金融机构已采用人工智能（英格兰银行/ 英国金融行为监管局），且报告称生产力得到提升的机构比例在一年内几乎翻了一番，达到59%。生成文件数量最多的机构，恰恰是那些在生成这些文件的技术上投入最激进的机构。

这就是生产力问题转变为安全问题的转折点。用于起草推介书的工具，与用于编写有效载荷的工具如出一辙。

自生成式人工智能普及以来，AI辅助的网络钓鱼攻击激增了十倍以上（+1,265%），目前被检测到的网络钓鱼邮件中，超过82%包含AI生成的内容。 2024年，数字文档伪造事件同比激增244%。卡巴斯基每天记录约50万个恶意文件。报告遭遇深度伪造身份欺诈企图的企业比例在两年内从37%上升至49%。文件传播型威胁的增长曲线与合法文件呈同步趋势，因为同一技术既能生成恶意文件，也能生成合法文件。

我们用来描述文件的词汇已无法准确反映文件如今的形态。文件不再是一个被动静止的容器，静待用户打开。它正日益演变为“智能文件”（IntelligentFILE）：任何带有嵌入式智能（包括数据、指令、身份或代码）的文件，当其被处理、打开或传输时，都会触发相应的动作。

IntelligentFILE 的显著特征在于其双重属性。同一个对象既可以成为推动业务、合规和信任的力量，也可能成为一种武器。一份“了解你的客户”（KYC）数据包具有法律效力，基于该数据包做出的每一项决策都将产生后续影响。一个合成反洗钱（AML）数据集则会成为管理数百万笔交易的模型的“可信数据源”。 一份由人工智能生成的合规报告，若受到妥善管控则具有合法性；若未受管控，则可能成为数据中毒的载体。一个嵌有恶意软件的 PDF 文件，其设计初衷是通过表面检查，并在进入系统后执行。一份由人工智能生成的电汇指令，在上下文准确性、交易对手匹配度以及结构上都与真实文件毫无二致。

“友好型”与“敌对型”之间的区别在外表上往往难以察觉，而这正是核心问题所在。

当今使用的绝大多数防护措施都是根据机器生成的文件所不再具备的属性来推断风险的。基于签名的反恶意软件引擎假设威胁是此前已知的，但生成式模型会生成没有已知签名的全新有效载荷。 电子邮件网关通常假设危险文件是通过电子邮件传入的，但如今文件还可以通过云端上传、API、网页表单、门户网站和协作工具等途径进入系统。分类机制通常假设文件包含作者信息和干净的元数据，但机器生成的文件缺乏这些信息，而合成数据则会模仿真实的客户记录。

“来源”这一概念假设来源能够预示安全性，但来源正日益成为一个超出机构边界范围的模型。

这就是“防护缺口”：并非某项工具的失效，而是为人类操作、人类创建的文件设计的控制措施，与既非人类操作也非人类创建的文件群体之间存在的架构不匹配。

如果无法再信任来源，就必须调整控制点。安全措施必须从文件进入环境后才检测威胁，转变为在文件被接收的瞬间对每个文件进行检查和清理，无论其声明的来源如何，也无论是否有任何单一引擎对其发出警告。来源追溯将从一种推断转变为一种强制执行。

实际上，这意味着：先防后检；将每个渠道都视为入口点；通过重建文件以移除其中活跃内容来消除其危害，而非仅检测已知恶意文件；绝不依赖单一检测引擎；并将机器生成数据和合成数据视为独立的受管控数据类别。

市场已经开始向这一方向进行资源重新配置——目前，96%的安全负责人将人工智能视为其网络防御的核心（安永），而数据泄露的平均成本接近440万美元（IBM）。

经过调整的安全措施并不一定会拖慢人工智能所推动的业务发展。但边界检查可确保在文件数量激增的同时，生产力得以提升，而不会以同等程度扩大未受保护的威胁面。