人工智能是否会导致网络安全人员大量失业？生成式人工智能带来了哪些新的威胁和挑战？网络安全能否“以魔术打败魔术”，并从人工智能技术中受益？
随着人工智能技术的突破性发展，攻击者正在加速人工智能的采用，结合社会工程技术，使企业难以防范同时，在防守端，AI也是CISO赢得AI军备竞赛的关键**。
2024 年，人工智能将如何改变网络安全的游戏规则？近日，VentureBeat 采访了来自 13 家公司的 15 位网络安全领导者，总结了他们对 2024 年的看法。 受访者普遍认为，2024 年首席信息安全官的首要目标是建立安全人员、人工智能和合作伙伴关系。 人工智能需要人类的洞察力才能充分发挥其抵御网络攻击的潜力，以下是安全专家的要点：
人工智能为检测能力带来改进和挑战
Peter Silva，Ericom 网络安全部
AI 的模式识别功能可用于提高检测能力（例如，新的攻击模式或 CVE 漏洞，包括攻击尝试，甚至是掩盖无意中撞库攻击的 L3DDoS 攻击）。 但与此同时，AI也会使检测变得更加困难，例如，检测器无法区分人类的钓鱼攻击和AI生成的钓鱼攻击，这将促进检测技术的不断发展。
影子AI和大规模模型部署带来新的数据安全风险
Elia Zaitsev，Crowdstrike 首席技术官
Crowdstrike 预计，到 2024 年，攻击者将把注意力转移到 AI 系统上，将其作为最新的威胁载体，通过批准的 AI 部署中的漏洞和员工未经批准使用 AI 工具（影子 AI）的盲点来攻击目标组织。
安全团队对 AI 威胁模型和监控员工影子 AI 的了解仍处于早期阶段，这些盲点和新技术为渴望渗透企业网络或访问敏感数据的威胁行为者打开了大门。 在没有安全团队监督的情况下使用新 AI 工具的员工将为公司带来新的数据泄露风险。
过度依赖人工智能导致缺乏对安全运营的监督
Rob Gurzeev，Cycognito首席执行官
生成式人工智能将对安全产生积极影响，但它也带来了巨大的风险：人工智能会让安全团队过于自满，这是危险的。 过度依赖人工智能会导致对组织的安全运营缺乏监督，这很容易在攻击面上造成漏洞。 不要以为一旦AI变得足够聪明，就能减少对人类洞察力的依赖，其实是“滑坡”。
人工智能可以帮助企业提高防御响应速度
Howard Ting，Cyberh**EN首席执行官
Cyberh**en 今年早些时候的调查数据显示，47% 的员工将机密数据粘贴到 ChatGPT 中，其中 11% 的数据是敏感数据。 但事情最终会变得更好，随着大型语言模型和生成式人工智能的成熟，安全团队将能够使用它来加速防御。
生成式 AI 提高安全大数据的可用性
John Momorello，Gutsy 联合创始人兼首席技术官
生成式 AI 在帮助安全团队有效处理大量事件数据方面具有巨大潜力。 传统的数据湖和 SIEM 方法只是收集数据，对数据的易用性几乎没有什么作用，而对话式 AI 可以大大提高数据的可用性。
生成式 AI 降低了关键基础设施攻击的准入门槛
Jason Urso，Honeywell Connected Enterprise 首席技术官
关键基础设施一直是恶意行为者的主要目标。 以前成功的攻击涉及的复杂性超出了普通黑客的能力。 然而，生成式人工智能降低了进入门槛，允许经验不足的黑客生成恶意软件，发起复杂的网络钓鱼攻击以访问系统，并执行自动渗透测试。
关键基础设施的威胁形势正在演变为人工智能 （AI） 防御。
在关键基础设施的防御方面，生成式人工智能将被用作一种闭环的 OT 防御方法——随着威胁形势的变化动态更改安全配置和防火墙规则，并执行自动渗透测试以了解风险变化。 ”
人工智能并不意味着网络安全人才将失业
Srinivas Mukkamala，Ivanti 首席产品官
2024年，许多员工将更加担心人工智能对他们职业生涯的影响。 例如，最近的研究发现，近三分之二的IT员工担心人工智能将在未来五年内取代他们的工作。 企业领导者需要向员工明确透明地说明他们计划如何实施人工智能，以留住有才华的员工——因为可靠的人工智能需要人工监督。
此外，人工智能将产生更复杂的社会工程攻击。 到 2024 年，人工智能工具的日益普及将使社会工程攻击更容易获得。 随着公司越来越擅长检测传统的网络钓鱼电子邮件，黑客已转向新技术来提高网络钓鱼电子邮件的可信度。 此外，不良行为者使用人工智能工具制造的错误信息将对组织、**和整个社会构成真正的威胁。
生成式人工智能将改变网络安全角色的工作性质
Merritt Baer，Lacework 首席信息官
机器人不会接管安全工作，但它们将改变网络安全工作的性质。 许多安全专业人员已经在使用 AI 来自动化重复性任务，但如果他们更进一步呢？如果生成式 AI 不仅可以提示你编写一个自动化程序（“这是你本周看到 x 次请求的问题;你想自动化它吗？如果需要，它还可以为您提供该怎么做（例如，编写漏洞缓解或补丁）。 我预计网络安全工作的最终价值将与计算机编程教母 Adalovelace 一致，她预见到人类的创造力和创新思维是必不可少的;计算机擅长可靠的处理，从大型数据集中推导出模式，并以数学精度执行操作。 ”
AI 帮助安全团队跟上开发步伐
Ankur Shah，Palo Alto Networks Prisma Cloud 高级副总裁
当今的安全团队无法跟上应用程序开发的步伐，导致生产环境中存在无数的安全风险。 不幸的是，应用程序开发正在加速，越来越多的开发人员使用 AI 快速编写和发布新应用程序，AI 将在不久的将来将应用程序开发速度提高 10 倍以上。 为了给安全团队提供公平的竞争环境，企业安全需要转向人工智能。 最后，人工智能主要是一个数据问题，如果你没有强大的安全数据来训练人工智能，那么你阻止风险的能力就会滞后。
生成式 AI 打造多才多艺的安全分析师
Matt Kraning，Palo Alto Networks Cortex 首席技术官
如今，安全分析师必须成为全能的独角兽，不仅要了解攻击者如何入侵，还要了解如何设置复杂的自动化和查询以有效地处理大量数据。 现在，生成式人工智能将使安全分析师更容易与数据进行交互。
人工智能是检测网络钓鱼电子邮件的关键能力
Christophe van de Weyer，Telesign 首席执行官
欺诈者正在使用 AI 技术来扩大攻击规模，例如使用 AI 生成的深度伪造语音或写作风格来提高成功率，这导致 2023 年的网络钓鱼电子邮件数量创下历史新高。 到 2024 年，消费者将很难辨别欺诈性电子邮件和短信，这将迫使企业加强防御并更加关注帐户完整性，因为网络钓鱼通常用于接管帐户并执行更重大的盗窃。 企业应使用人工智能，根据对欺诈信号的持续分析，对登录和交易进行风险评分。 网络安全公司应扩大对机器学习中欺诈信号的学习，为电子邮件安全计划提供高质量的信息。
人工智能将解决威胁检测、分类和响应方面的挑战
Rob Robinson，Telstra Purple EMEA 负责人
如今，网络安全专业人员负责监控和管理的数据点数量惊人。 随着云和智能边缘的激增，这种情况在未来几年只会加剧。 AI 技术非常适合解决安全行业在威胁检测、分类和响应方面的一些最困难的问题。 因此，到 2024 年，我们将看到 AI 再次改变 CISO 所需的必要技能。
生成式人工智能将全面提高安全运营的自动化水平
Vineet Arora，Winwire 首席技术官
生成式人工智能将极大地增强网络安全运营管理能力。 人工智能将在目前由人工管理的安全工作流程中实现更多的自动化，例如威胁情报、安全强化、渗透测试和检查工程。 许多日常任务（如日志分析、事件响应和安全修补）都可以通过生成式 AI 实现自动化，从而为安全分析师腾出宝贵的时间专注于更复杂的网络安全问题。 同时，攻击者使用生成式 AI 为社会工程攻击、恶意软件伪装和复杂的网络钓鱼活动创建高度“逼真”的场景。
生成式 AI 大幅提升合规效率
Zscaler 首席人工智能官 Claudionor Coelho 和产品管理副总裁 Sanjay Kalra
生成式人工智能将在 2024 年对合规性产生重大而深远的影响。 从历史上看，合规性一直是一项耗时的工作，包括制定法规、执行限制、获取证据和回答客户问题。 这主要集中在文本和程序上，生成式人工智能将大大提高其自动化水平。