Mandiant 创始人 Kevin Mandia 警告称，利用人工智能代理的网络攻击可能会在一年内发生。这一警告是在 2025 年 5 月 13 日接受 Axios 采访时宣布的。
曼迪亚表示，当此类攻击发生时，世界不太可能知道肇事者是人工智能工具。 “每个人都会关注那次攻击，并想知道它是如何完成的，但背后可能有人工智能，”他上个月在 RSA 会议间隙告诉 Axios。
曼迪亚预测的攻击类型更有可能来自网络犯罪分子而不是民族国家。他补充说，新攻击方式的第一个版本通常“有点粗糙”，像中国这样的外国对手可能会等待时机，然后再效仿。
OpenAI 和 Anthropic 等主要人工智能公司的模型更擅长阻止违反安全参数的行为，因此它们不太可能参与 Mandia 预测的攻击。 “它将来自某个地方控制较少的模型，”他说。
Sophos 全球现场 CISO Chester Wisniewski 告诉 Axios，虽然网络犯罪分子可能已经有能力利用人工智能，但许多人还没有真正的动机来利用它。
最近的统计数据显示，全球 87% 的组织已经面临人工智能驱动的网络攻击，预计到 2032 年网络犯罪将给全球造成 13.82 万亿美元的损失。 2024 年北美勒索软件攻击将增加 15%，过去 12 个月内 14 个主要国家的 59% 的企业成为勒索软件的目标。
【编辑部评论】
Mandiant 创始人 Kevin Mandia 警告称“人工智能驱动的网络攻击将在一年内发生”，引起了网络安全行业的广泛关注。这一预测不仅仅是猜测，而是一位活跃在网络安全第一线 20 多年的专家的观点。
事实上，新的研究表明，全球 87% 的组织已经面临人工智能驱动的网络攻击，并且过去两年“人工智能网络攻击”的搜索量增加了 186%。这些数字表明，利用人工智能进行网络犯罪不仅仅是理论，而是现实。
特别值得注意的是一种称为“群体恶意软件”的新威胁。受自然群体（如蚂蚁和蜜蜂）的启发，它是一个由分布式人工智能驱动的代理网络，可以实时协作并共享情报，以智取最先进的防御。与传统恶意软件不同，它不依赖中央控制，就像一个自我辅导团队，这使其成为 2025 年的一项艰巨挑战。
曼迪亚指出的“人工智能工具可能无法识别肇事者身份的可能性”尤为重要。在传统的网络攻击中，有时可以根据攻击者的方法和模式来识别罪魁祸首，但当人工智能自主执行攻击时，追踪其踪迹就变得更加困难。
从 2025 年开始，使用多智能体 AI 的网络攻击作为一种新威胁正在引起人们的关注。这些攻击涉及多个人工智能共同实施网络攻击，预计比传统网络攻击更快、更高效。传统上，目标识别、漏洞搜索、攻击执行、身份验证、网络传播和信息窃取等各个过程都是由人类攻击者执行的，但在多主体人工智能网络攻击中，多个人工智能主体负责这些过程。
另一方面，网络防御者愿意使用人工智能进行防御。据称，人工智能驱动的安全工具能够发现 80% 的隐藏威胁，并预测 66% 的新攻击。 AI网络安全市场预计将从2023年的243亿美元增长到2030年约1340亿美元，这种快速增长体现了AI在数字安全中的革命性作用。
从我们 innovaTopia 的角度来看，人工智能带来的网络威胁确实是真实存在的，但我们认为应该避免过度的恐惧和夸大。相反，重点应该放在公司和个人应该采取的具体措施上。
例如，引入通过使用人工智能进行行为分析来检测用户行为中细微异常的方法，以及使用预测性人工智能防御来预测攻击模式并在威胁传播之前自动消除威胁的技术，这一点非常重要。 94% 的 IT 领导者已投资于 AI 安全，而 AI 工具每次数据泄露可节省超过 200 万美元。
最终，人工智能在网络安全中扮演着一把“双刃剑”的角色。虽然它对于攻击者来说是一个强大的工具，但对于防御者来说也具有巨大的潜力。未来几年，对人工智能驱动的安全解决方案和防止人工智能滥用的策略的投资对于保持数字世界的安全至关重要。
【术语解释】
曼迪安特:
由 Kevin Mandia 于 2004 年创立的网络安全公司。2022 年被 Google 收购。专门调查和响应网络攻击，为世界各地的大公司和政府机构提供服务。
群恶意软件:
由人工智能驱动的机器人网络，就像一个没有教练的协调团队。每个机器人都自主运行，并通过 P2P（点对点）通信进行协作。与传统的恶意软件不同，它的去中心化方法消除了弱点，使其不可预测且具有弹性，使其更像是一个活的有机体而不是静态程序。
多智能体人工智能:
多个自主人工智能系统（代理）协同工作的系统。随着微软的 AutoGen 和谷歌的 Vertex AI 等多代理平台的出现，这项技术正在迅速成为现实。
人工智能代理:
在人工智能领域，一个实体能够自主地感知其环境、做出决策并采取行动以实现特定的目的或目标。独立工作，无需人工干预。
RSA会议:
网络安全行业最大的国际会议。它每年举行一次，交流最新安全技术和威胁的信息。
网络犯罪:
犯罪分子利用互联网实施诈骗行为。目的是进行勒索软件攻击、网络钓鱼诈骗等以获取经济利益。
[参考链接]
曼迪安特（外部）
一家安全公司，作为 Google 的子公司提供网络威胁情报和事件响应服务。
弹道风险投资公司（外部）
一家专门从事网络安全的风险投资公司，凯文·曼迪亚（Kevin Mandia）目前是普通合伙人。
开放人工智能（外部）
开发生成式人工智能的公司，例如 ChatGPT。主要人工智能模型的开发者，具有出色的安全参数。
人择（外部）
由前 OpenAI 员工创立的人工智能公司。克劳德（Claude）开发人工智能并专注于安全和道德。
索福斯（外部）
英国网络安全公司。文章中提到的切斯特·维斯涅夫斯基 (Chester Wisniewski) 就属于该组织。
恶意软件字节（外部）
实时网络保护领域的全球领导者。公布最新的 ThreatDown 报告。
[参考视频]
该视频演示了 Mandiant 威胁情报平台的主要功能和用法。
[编者后记]
既然基于人工智能的网络攻击正在成为现实，您的组织正在考虑采取哪些对策？全球 87% 的组织已经面临人工智能驱动的攻击，很少有公司可以说自己是安全的。特别值得注意的是“群体恶意软件”等新威胁。这些可能超出了传统防御的范围。人工智能正在彻底改变进攻和防守，但你站在哪一边？ innovaTopia 将继续提供人工智能安全领域的最新趋势。