人工智能黑客：黑客如何在网络攻击中使用人工智能

人工智能黑客是指利用人工智能来增强网络攻击或使其自动化。它使威胁行为者只需极少的人工即可生成代码、分析系统和规避防御。 

人工智能模型，尤其是大型语言模型（LLM），使攻击开发更快、更便宜，也更容易为经验不足的黑客所利用。这就产生了一系列新的人工智能攻击，它们速度更快、可扩展性更强，而且往往难以用传统防御手段阻止。  

现在，人工智能威胁行为者利用人工智能发起更快、更智能、更具适应性的网络攻击。从恶意软件的创建到网络钓鱼的自动化，人工智能正在将网络犯罪转变为一种可扩展的行动。现在，它可以生成恶意代码，编写有说服力的网络钓鱼内容，甚至引导攻击者完成整个攻击链。

网络犯罪分子在几个核心领域使用人工智能：

• 有效载荷生成：HackerGPT 和WormGPT 等工具可以编写混淆的恶意软件，自动执行规避策略，并将脚本转换为可执行文件。这些都是生成式人工智能攻击的例子，通常出现在人工智能代理网络攻击中，其中的模型会做出自主决策。
• 社会工程学：人工智能可以创建逼真的网络钓鱼电子邮件、克隆声音并生成深度伪造的电子邮件，从而更有效地操纵受害者。
• 侦察和规划：人工智能加快了目标研究、基础设施测绘和漏洞识别的速度。
• 大规模自动化： 攻击者利用人工智能发起多阶段攻击活动，只需极少的人工输入。

据Ponemon 研究所称，人工智能已被用于勒索软件活动和网络钓鱼攻击，造成了严重的运营中断，包括在 2023 年的一次漏洞事件中，凭证被盗和 300 多个零售点被迫关闭。 

几种新出现的模式正在重塑威胁格局：

• 网络攻击民主化：现在，任何拥有本地计算能力的人都可以使用 LLaMA 等开源模型，这些模型针对进攻进行了微调
• 降低准入门槛：以前需要专业技能的操作，现在只需简单的提示和几次点击即可完成
• 提高躲避成功率：人工智能生成的恶意软件更善于躲避静态检测、沙箱甚至动态分析
• 恶意软件即服务（MaaS）模式：网络犯罪分子正在将人工智能功能捆绑到基于订阅的工具包中，使大规模发起复杂攻击变得更加容易
• 在现实世界的入侵事件中使用人工智能： Ponemon 研究所报告称，攻击者已经利用人工智能自动瞄准勒索软件，包括在迫使主要运营机构停机的事件中

人工智能支持的网络钓鱼和社交工程正在将传统的诈骗转变为可扩展的个性化攻击，而且更难被发现。威胁行为者现在使用生成模型来制作可信的电子邮件、克隆声音，甚至制作虚假的视频通话来操纵他们的目标。

与传统的诈骗不同，人工智能生成的网络钓鱼电子邮件精雕细琢，令人信服。ChatGPT 和 WormGPT 等工具可以生成模仿内部通信、客户服务推广或人力资源更新的信息。当与外泄数据配对时，这些电子邮件就会变得个性化，更有可能成功。

人工智能还为更新形式的社交工程提供了动力： 

• 语音克隆攻击利用简短的音频样本模仿高管，触发电汇等紧急行动
• 深度伪造攻击模拟视频通话或远程会议进行高额诈骗

在最近的一起事件中，攻击者在福利注册期间使用人工智能生成的电子邮件，冒充人力资源部门窃取凭证并访问员工记录。危险在于信任假象。当电子邮件看起来是内部邮件、声音听起来很熟悉、请求感觉很紧急时，即使是训练有素的员工也会被欺骗。 

人工智能正在加快攻击者发现和利用软件漏洞的速度。过去需要数天的人工探测，现在只需几分钟就能利用为侦察和生成漏洞而训练的机器学习模型完成。

威胁行动者利用人工智能对面向公众的系统进行自动漏洞扫描，识别薄弱的配置、过时的软件或未打补丁的 CVE。与传统工具不同，人工智能可以评估暴露环境，帮助攻击者确定高价值目标的优先级。 

常见的人工智能辅助开发策略包括

• 自动模糊处理，更快发现零日漏洞
• 自定义脚本生成，用于远程代码执行或横向移动
• 通过模式学习和概率模型优化密码破解和暴力破解攻击 
• 侦察机器人能以最小的噪音扫描网络中的高风险资产

LLaMA、Mistral 或 Gemma 等生成模型可以进行微调，以根据系统的特定特征生成定制的有效载荷，如 shellcode 或注入攻击，通常可以绕过商业模型中内置的防护措施。

趋势很明显：人工智能使攻击者能够以机器速度发现漏洞并采取行动。根据 Ponemon 研究所的数据，在人工智能驱动的攻击时代，54% 的网络安全专业人员将未修补的漏洞列为他们最担心的问题。

人工智能网络攻击已不再是理论上的问题，它们已被用于大规模窃取数据、绕过防御系统和假冒人类。  

以下三个显著类别中的例子表明，攻击者不再需要高级技能就能在网络攻击中造成严重破坏。人工智能降低了进入门槛，同时提高了攻击速度、规模和隐蔽性。防御者必须主动测试集成了人工智能的系统，并部署考虑到技术操纵和人为欺骗的防护措施，以适应这种情况。

提示注入是一种技术，攻击者通过向 LLM（大型语言模型）输入特制的输入信息，利用 LLM（大型语言模型）的漏洞，从而推翻预期的行为。这些攻击利用 LLM 解释和优先处理指令的方式，通常很少或根本不涉及传统的恶意软件。 

提示注入不是利用人工智能发动外部攻击，而是将组织自身的人工智能系统变成不知情的破坏者。如果在没有适当防护措施的情况下将 LLM 嵌入服务台、聊天机器人或文档处理器等工具中，攻击者就可以嵌入隐藏命令，然后由模型进行解释并采取行动。这可能导致

• 泄漏私人或受限数据
• 执行意外操作（如发送电子邮件、更改记录等）
• 操纵产出以传播错误信息或引发后续行动

在多个模型相互传递信息的系统中，这些风险会不断升级。例如，嵌入文档中的恶意提示可能会影响人工智能摘要器，然后将有缺陷的见解传递给下游系统。 

随着人工智能越来越多地融入业务工作流程，攻击者越来越多地瞄准这些模型，以破坏信任、提取数据或从内到外操纵决策。

Deepfake 攻击使用人工智能生成的音频或视频实时冒充他人。这些工具与社交工程策略配合，正被用于欺诈、窃取凭证和未经授权的系统访问。 

语音克隆变得尤为危险。只需几秒钟的语音录制，威胁行为者就能生成模仿语气、节奏和语调的音频。然后，这些克隆声音就会被用来

• 在紧急电话中冒充行政人员或管理人员
• 诱骗员工进行电汇或密码重置
• 绕过语音验证系统

Deepfakes 通过生成合成视频，在此基础上更进一步。威胁行为者可以在视频通话中模拟首席执行官，要求提供机密数据，或者在录制的片段中 "宣布 "政策变化，传播虚假信息。 Ponemon 研究所报告了一起事件，攻击者在一家公司的福利注册期间使用人工智能生成的信息冒充人力资源部门，导致凭证被盗。 

随着人工智能工具越来越容易获取，即使是小规模的威胁行为者也能生成高保真的假冒产品。这些攻击通过利用信任绕过了传统的垃圾邮件过滤器或端点防御系统。 

分类器模型攻击操纵人工智能系统的输入或行为，迫使系统做出不正确的决定，而不一定要编写恶意软件或利用代码。 这些策略属于更广泛的对抗性机器学习范畴。  

主要有两种战略：

• 规避攻击：攻击者精心制作输入内容，欺骗分类器对其进行错误识别，例如恶意软件模仿无害文件绕过杀毒引擎。 
• 中毒攻击：根据故意歪曲的数据对模型进行训练或微调，改变其检测威胁的能力 

有监督的模型经常会 "过拟合"：它们从训练数据中学习特定的模式，而漏掉那些稍有偏差的攻击。攻击者利用这一点，使用 WormGPT（一种针对攻击任务进行微调的开源 LLM）等工具，在已知检测范围之外创建有效载荷。

这是零日漏洞的机器学习版本。

人工智能黑客利用人工智能来自动化、增强和扩展人工智能网络攻击。相比之下，传统的黑客攻击往往需要手动编写脚本、深厚的专业技术知识和大量的时间投入。两者的根本区别在于速度、可扩展性和可访问性：现在，即使是新手攻击者，只需几个提示和一个消费级 GPU，就能发起复杂的人工智能网络攻击。

许多组织正在转向人工智能辅助红队，以测试其对 LLM 滥用、提示注入和分类器规避的防御能力。这些模拟有助于抢在攻击者之前发现人工智能集成系统中的漏洞。 

红队 使用对抗性提示、合成网络钓鱼和人工智能生成的有效载荷来评估系统是否具有弹性或可被利用。人工智能安全测试还包括 

• 针对及时注入风险的模糊模型 
• 评估 LLM 如何处理操纵输入或连锁输入 
• 测试分类器对规避行为的稳健性 

安全领导者也开始扫描自己的龙8国际娱乐城，及时发现泄漏、幻觉或对内部逻辑的意外访问，这是生成式人工智能嵌入产品和工作流程的关键一步。

马丁-卡拉斯（Martin Kallas）认为，与其在被动的循环中 "以人工智能对抗人工智能"，不如采取多层次的主动防御。OPSWAT 解决方案结合了针对整个威胁生命周期的技术：

• Metascan™Multiscanning：通过多个防病毒引擎运行文件，检测单个防病毒引擎系统遗漏的威胁 
• MetaDefender Sandbox™（MetaDefender 沙盒）：分析隔离环境中的文件行为，甚至检测躲避静态规则的人工智能生成的有效载荷 
• 深度 CDR™：将文件重建为安全版本，清除嵌入的漏洞，从而消除威胁 

这种分层安全堆栈旨在应对人工智能生成的恶意软件的不可预测性，包括绕过传统工具的多态威胁、内存有效载荷和深层伪造引诱。由于每一层都针对攻击链的不同阶段，因此只需一层就能检测或消除威胁，并在其造成破坏之前瓦解整个操作。

联邦调查局和其他美国机构正越来越多地将人工智能整合到其网络防御行动中，不仅用于分流和优先处理威胁，还用于加强数据分析、视频分析和语音识别。

据联邦调查局称，人工智能有助于处理大量数据，生成调查线索，包括车辆识别、语言识别和语音到文本的转换。重要的是，该局实施严格的人工监督：在采取任何行动之前，所有人工智能生成的输出结果都必须经过训练有素的调查人员的验证。 

人工智能不能取代人类决策。联邦调查局强调，人类始终要对调查结果负责，而且人工智能的使用必须尊重隐私、公民自由和法律标准。