研究人员表明，大规模语言模型 (LLM) 代理可以使用给定的漏洞描述和捕获标记问题来利用现实世界的漏洞。然而，这些代理针对未知的现实漏洞（零日漏洞）的性能较低。在这项研究中，我们展示了 LLM 代理团队可以利用现实世界的零日漏洞。以前的代理在单独使用时，很难探索许多不同的漏洞并制定长期计划。为了解决这个问题，我们引入了一个名为 HPTSA 的代理系统，它允许规划代理启动子代理。规划代理探索系统，决定调用哪些子代理，并在测试不同漏洞时解决长期规划问题。我们建立了 15 个真实漏洞的基准，并表明我们的代理团队比之前的工作实现了高达 4.5 倍的改进。 LLM 并没有发现新的漏洞，而是以新的方式利用未经训练的零日漏洞。这些进展是完全自主的人工智能网络攻击代理难题的一部分，也是需要跟踪的重要目标。
【新闻评论】
最近的研究表明，大规模语言模型（LLM）代理可以利用现实世界的漏洞。特别是，这些代理能够利用以前未知的漏洞，即所谓的零日漏洞。到目前为止，人们已经知道LLM代理可以通过解决给定的漏洞描述或捕获标记问题来利用漏洞，但问题是当涉及未知漏洞时，它们的性能较低。
为了解决这个问题，研究人员推出了一种名为 HPTSA 的新系统。在该系统中，规划代理探索系统并决定启动哪些子代理。这解决了尝试不同漏洞时的长期规划问题，并将代理团队在 15 个现实世界漏洞上的性能比之前的工作提高了 4.5 倍。
这项研究的意义在于，它表明 LLM 代理不会发现新的漏洞，但可以以未经训练的新方式利用零日漏洞。这表明人工智能技术将在网络安全领域发挥更加积极的作用。此外，当与发现新漏洞的人工智能相结合时，完全自主的人工智能网络攻击代理的开发可能成为现实。
这项技术的一个积极的方面是，它为网络安全研究和国防发展提供了新的方法和途径。另一方面，它也存在潜在的风险，因为它可能被恶意使用。例如，网络攻击者可以利用这项技术来提高他们渗透安全系统的能力。
至于监管影响，随着人工智能技术的发展，网络安全法律法规可能需要更新。制定人工智能使用的道德准则也很重要。
从未来的影响来看，人工智能技术的发展可能会显着改变网络安全策略和措施。此外，随着基于人工智能的漏洞利用成为真正的威胁，人工智能技术的安全使用和管理将变得更加重要。从长远来看，我们可能会迎来一个人工智能和人类共同应对网络安全挑战的新时代。