在网络安全方面，人工智能绝对是一把双刃剑。 一方面，目前全球估计有 350 万个网络安全职位空缺，人员短缺已成为网络安全保障的瓶颈。 在这样的情况下，在网络安全领域引入人工智能辅助系统，将大大缓解网络安全人员短缺的问题。 另一方面，由于黑客采用人工智能的速度比企业技术团队快，人工智能正在给安全带来新的问题。 人工智能网络攻击甚至已成为一个单独的类别。
在这样的条件下，帕洛阿尔托网络42单元咨询总监刘俊典认为，这必然会把我们带入一个AI对AI的时代，网络安全技术和战略将发生一系列变化。
生成式 AI 带来新风险
GPT-1 于 2018 年 6 月发布，直到 2023 年 3 月才发布 GPT-4，生成式 AI 才真正进入井喷阶段。 但时至今日，生成式人工智能尚未进入大规模企业采用阶段，龙头企业在内部开展的实验性应用数量不多。但如果你认为生成式AI带来的安全问题也停滞在这样的阶段，那么你就要小心了，因为ChatGPT的“**双胞胎”至少有7种方法可以让你中招。
刘俊典列举了其中的几个。 早在ChatGPT刚刚掀起AI热潮时，就已经有专家警告Open AI的ChatGPT等大型语言模型可能被恶意破坏。
不幸的是，专家的话得到了验证，WormGPT如雨后春笋般涌现。 WormGPT 是一个专门在恶意软件数据上训练的模型，但它没有安全护栏，没有底线，很容易被别有用心的人提示创建基于 Python 的恶意软件。
生成式AI的出现可以缓解一些工作压力，生成文本、图像，或者应用于医疗、教育等领域，为我们的生活带来创新和便利。 但在不良行为者手中，像 WORMGPT 这样的工具生成的电子邮件不仅非常有说服力，而且在战术上也很狡猾，展示了它们进行复杂网络钓鱼和 BEC 攻击（企业电子邮件攻击）的潜力。
FraudGPT 的“成功”标志着生成式人工智能和黑客技术民主化的危险时代的到来。 或者换句话说，它一下子降低了网络攻击的门槛。
FraudGPT 将过去复杂的黑客技术转变为一种自动化服务，即使是最精通技术的人也可以轻松使用，例如编写恶意软件**、创建无法检测的恶意软件以及编写令人信服的网络钓鱼电子邮件。 于是，曾经需要三个月才能写完的恶意**，现在只需要三分钟就能完成。
FraudGPT 也因此功能而迅速流行起来。 只需每月 200 美元或每年 1,700 美元的订阅费，任何人都可以成为黑客。 到目前为止，FraudGPT 拥有超过 3,000 名订阅者。 甚至在 2022 年 11 月下旬推出 ChatGPT 之前，Palo Alto Networks 就警告说，攻击者，包括国家资助的网络黑客组织，已经开始将生成式 AI 变成**。
深度伪造是另一种可能非常具有破坏性的技术。 如果你看到熟人在微信上借钱，你熟悉的声音从麦克风里传出来，匆匆忙忙，你帮忙还是不帮忙？如果您转账，先进的深度伪造技术（例如 AI 换脸技术）可能会欺骗您。 当深度伪造与勒索混合在一起时，许多受害者被迫支付赎金。
除此之外，还有多模态AI恶意软件的出现。 Deep Locker 使用深度神经网络 （DNN） AI 模型将其攻击有效载荷隐藏在良性向量应用程序中，并且有效载荷仅在到达预定目标时才会解锁。 “黑曼巴”概念验证攻击允许恶意软件在运行时动态修改良性**，而无需任何命令和控制 （C2） 基础设施，从而规避当前的自动化安全系统。
刘俊典将常见的AI攻击归纳为三类：“第一种是利用AI编写一个木马程序，然后利用该木马程序进入攻击者的环境。 第二种是利用AI编写高信任度的钓鱼软件，第三种是利用AI进行更快的攻击。 ”
随着生成式人工智能可能迅速演变为更加多样化和更具威胁性的攻击，刘俊典强调，人工智能对抗人工智能的时代已经到来，因此不可能仅仅依靠人力来应对事件，而必须利用人工智能来辅助。
站在技术的最前沿
面对这样一个AI对抗AI的时代，人们接下来思考的就是如何应对这个时代。
对此，刘俊典表示：“我们必须看到，AI技术的演进不是一天完成的，在AI演进的过程中，Palo Alto Networks及其子公司42一直保持着对AI安全威胁信息的高度关注，也进行了大量的相关研究， 我们有一些相应的解决方案。 在策略方面，我们希望用户做出改变。 首先，我们不能用人力来阻挡AI攻击，用AI对抗AI是唯一的办法。 其次，人工智能向我们展示了更快、更强大、更准确的攻击模式，因此我们之前所熟知和知道的一些防御模式和方法必须改变。 ”
具体来说，刘俊典将这些转变总结为六个步骤。 首先是改变成功的心态，而不仅仅是防止攻击。 第二是优先考虑限制攻击者的防御，并为防御者提供回旋余地和时间。 下一步是简化、重复和自动化防御。 它还需要 24/7 全天候监控，增加攻击者的时间压力，并测量和减少外部攻击面。 最后但并非最不重要的一点是，过渡到零信任企业并加强安全措施。
在工具层面，Palo Alto Networks 有一个安全公式：零信任 + 平台 = 前瞻性。 零信任是指消除任何隐性信任并基于持续验证的策略;平台是关于根据您的需求连接不同类型的最佳功能，以实现最大的可见性、控制和效率;前瞻性是指轻松且安全的转型，使企业能够在安全的环境中高效运营和创新。
相较于海量的单点安全产品，平台化解决方案可实现全面、自动化的安全防御，真正做到主动保护企业网络安全。 Palo Alto Networks 的下一代网络安全平台从网络、云和端点三个维度应对数字经济中的安全挑战，并在所有安全解决方案之上提供自动化安全运营分析系统。 所有这一切都基于Palo Alto Networks的全球安全威胁情报网络，由顶级安全分析师Unit 42组成的专业安全团队，及时分析和响应全球安全事件和情报。
共享新发展
从大型语言模型的角度来看，越来越多的大型模型正在走上开源之路，而新版GPT则让基于它进行开发变得更加容易。 这带来了更多的技术专家，也使黑客更容易使用生成式人工智能来制造新型攻击。 黑客已经开始在各种论坛上交流AI攻击经验和案例，便捷的AI攻击工具可以让黑客更真实、更准确、更快速地发起攻击，而无需具备很高的技术水平。 这也对防守者提出了新的要求，所以防守者必须团结起来。 对于防守者来说，知识就是力量，这使得第42部队的作用脱颖而出。
“我们注意到，攻击者已经开始合作并分享案例，相互分享成功和失败。 因此，企业与企业、企业与产业环境之间更紧密的合作也应该开始。 ”
过去，我们总是通过网络安全报告了解 Unit 42，但从未在幕后接触过它。 事实上，Palo Alto Networks Unit 42 汇集了世界知名的网络威胁研究人员、事件响应专家和安全顾问，以创建一个情报驱动、响应迅速的组织，致力于帮助组织主动应对网络风险。 作为值得信赖的安全顾问，该团队共同努力，帮助组织评估和测试安全控制措施，以有针对性地应对威胁，通过威胁通知改进其安全策略，并不断缩短事件响应时间，以便他们能够尽快专注于业务。
当AI攻击不断以新的方式演进，行业需要合力时，刘俊典谈到了Unit 42的新变化：“对于Unit 42来说，最大的变化是我们需要密切跟踪AI攻击的演变，以及AI在这个过程中是如何被使用的。 我们不仅会研究攻击者与人工智能一起使用的策略，还会研究他们使用哪些工具包来执行各种类型的攻击，以及基于这些工具包创建了哪些新形式的攻击。 当企业需要联手应对新的AI攻击时，我们可以把我们的研究成果以开放、自由的形式放到**和论坛上，分享给大家。 最终，我们将能够与您一起运营一个保护整体的网络生态系统，而我们的安全研究成果必须不仅仅是unit42独有的，而是用于保护整个生态系统的。 ”
事实上，人工智能的颠覆性可能远远不止于此。 在 2023 年 RSAC 会议上，一个专家小组讨论了 CISO 在未来几年将面临的即将到来的 AI 风险和弹性问题。 讨论的最引人注目的话题之一是新兴的攻击——海绵攻击。 在海绵攻击中，攻击者通过针对海绵结构的弱点来破坏其安全性。 攻击的目标是从给定的输入中生成特定性质的输出。 在此类攻击中，攻击者可以使用特制的输入来消耗模型的硬件资源，从而对 AI 模型执行拒绝服务攻击。 换句话说，人工智能有可能不再被用作辅助工具，而是直接参与攻击。
早在 2019 年，Forrester Research 就预测，AI 将增加攻击的规模和速度，AI 将进行人类无法想象的攻击。 不幸的是，这些预言在今天正在成为现实。 面对日益严重的人工智能攻击，改变概念和工具，形成合力，将是缓解人工智能在网络安全活动中恶意使用的唯一途径。