美国重要的总统选举即将到来，德国的“超级选举年”也即将到来。目前，生成式人工智能技术已经充分发展，有潜力通过潜在选民在网上看到的图像和文本积极影响他们。这导致一些人将 2024 年称为“第一次人工智能选举”。
Sophos 现场首席技术官 Chester Wisniewski 指出，虽然让公众免费使用人工智能很好，但如何有效地使用它是另一个问题。在 Sophos，我们投入大量时间和资源来开发和训练专有模型，以利用 AI 加速研究流程并分析大量数据。然而，有些人试图将人工智能用于恶意目的，他们可以花更多的钱来生成比普通用户更有效的虚假内容。
关于人工智能的使用存在很多虚假信息，过去的美国选举周期中出现了经过编辑的视频或插入了实际上并未说过的文字的视频。尽管语音和图像克隆现在在技术上是可能的，但这只能由拥有足够资源和专业知识的组织和国家有效地完成。
当前最大的风险是产生大量虚假账户以促进特定的政治议程。大规模语言模型允许外国参与者以前所未有的速度和规模伪装自己。然而，真正的政治深度造假仍然少之又少，人工智能欺诈并没有变得更加复杂，只是更加高效。
与传统武器相比，人工智能驱动的欺诈成本如此之低，以至于几乎每个国家都有财力进行大规模的虚假信息活动。然而，在 2024 年看到个人行为者进行此类活动的可能性仍然被认为微乎其微。
【新闻评论】
随着美国重要总统选举的临近和德国“超级选举年”的到来，关于生成式人工智能技术对选举影响的争论越来越多。这项技术的进步将使得通过潜在选民在网上看到的图像和文本积极影响潜在选民成为可能，这使得一些人将 2024 年称为“第一次人工智能选举”。
Sophos 现场首席技术官 Chester Wisniewski 指出，虽然让公众免费使用人工智能很好，但如何有效地使用它是另一个问题。在 Sophos，我们投入大量时间和资源来开发和训练专有模型，以利用 AI 加速研究流程并分析大量数据。然而，有些人试图将人工智能用于恶意目的，他们可以花更多的钱来生成比普通用户更有效的虚假内容。
关于人工智能的使用存在很多虚假信息，过去的美国选举周期中出现了经过编辑的视频或插入了实际上并未说过的文字的视频。尽管语音和图像克隆现在在技术上是可能的，但这只能由拥有足够资源和专业知识的组织和国家有效地完成。
当前最大的风险是产生大量虚假账户以促进特定的政治议程。大规模语言模型允许外国参与者以前所未有的速度和规模伪装自己。然而，真正的政治深度造假仍然少之又少，人工智能欺诈并没有变得更加复杂，只是更加高效。
与传统武器相比，人工智能驱动的欺诈成本如此之低，以至于几乎每个国家都有财力进行大规模的虚假信息活动。然而，在 2024 年看到个人行为者进行此类活动的可能性仍然被认为微乎其微。
这种技术发展为确保选举过程中信息的准确性带来了新的挑战。然而，他们也在探索如何利用人工智能的潜力来加强选举流程和改善选民信息。然而，迫切需要加强监管和措施来应对潜在风险，例如虚假信息传播和深度造假技术的滥用。未来，人工智能技术可能会被用作增加选举透明度和公平性的工具，但这不仅需要技术进步，还需要建立道德准则和国际合作。