加州大学欧文分校研究团队在2025年3月4日举行的网络与分布式系统安全研讨会上，展示了自动驾驶汽车安全性的重要研究成果。事实证明，路标上的彩色贴纸会混淆自动驾驶汽车中的人工智能算法，导致其做出危险的行为。
研究人员表明，使用开源编程语言和图像处理库创建的低成本贴纸可以欺骗自动驾驶汽车的交通标志识别（TSR）系统。这种攻击可能会导致自动驾驶汽车忽略道路方向、无意中紧急制动、超速和其他违规行为。
该研究首次对主要消费汽车品牌的交通标志识别系统进行了大规模评估。 Waymo 每周提供超过 15 万次自动驾驶出行，并且有数百万辆配备 Autopilot 的特斯拉在路上行驶，这一事实凸显了这项研究的重要性。
研究团队包括加州大学欧文分校助理教授 Alfred Chen、Meta 研究科学家 Ningfei Wang、该校前任和现任研究生以及德雷塞尔大学助理教授 Kaidi Hsu。这项研究得到了美国国家科学基金会和美国交通部 CARMEN+ 大学交通中心的支持。
【编辑部评论】
加州大学欧文分校的研究小组的这一发现可能会对自动驾驶技术的未来产生重大影响。这项研究揭示了当前自动驾驶系统的漏洞，并对未来的技术发展提出了重要挑战。
最值得注意的一点是事实是，有可能以一种相对简单的方式混淆自动驾驶汽车的人工智能系统。使用五彩贴纸的方法不需要高级的黑客技能，普通人就可以执行。这对自动驾驶汽车的安全构成了新的威胁，整个行业必须认真对待。
这项研究它凸显了人工智能的“视角”与人类识别之间的差异。即使贴纸在人眼看来明显不自然，人工智能系统也会将其识别为完全不同的标志。这是人工智能技术的局限性和人类认知能力的复杂性的一个有趣的例子。
另一方面，这项研究成果可能会对自动驾驶技术的提升做出很大贡献。例如，我们可以开发结合多个传感器的识别系统，使AI学习数据多样化，甚至开发新的安全系统。
然而，此类漏洞的存在也会对旨在广泛使用自动驾驶汽车的法规和法律发展产生影响。安全将变得更加严格，自动驾驶汽车的商业化之路可能会变得更长。
从长远来看，这项研究有望为提高自动驾驶技术的可靠性做出贡献。及早发现漏洞并采取对策将有助于开发更安全、更可靠的自动驾驶系统。
最后，这项研究不仅对自动驾驶技术而且对人工智能系统的安全也具有重要意义。这为我们提供了一个新的视角来看待现实世界中操作人工智能系统的挑战以及人类和人工智能认知之间的差异。
【术语解释】
- AI（人工知能）：
模仿人类智能的计算机系统。就汽车而言，它指的是识别和判断周围情况的能力。 - 激光雷达：
使用激光测量与周围物体的距离的传感器。它们充当自动驾驶汽车的“眼睛”。 - TSR（交通标志识别）：
交通标志识别系统。该技术从相机拍摄的图像中识别交通标志。 - 语义分割：
一种对图像中每个像素进行分类的技术。自动驾驶汽车用来识别道路、行人等。
[参考链接]
- Waymo 官方网站（外部）
一家独立于谷歌自动驾驶部门的公司。我们不断推进自动驾驶技术的研发和实际应用。 - 特斯拉官方网站
（外部）一家以电动汽车和自动驾驶技术闻名的公司。提供自动驾驶功能。 - 加州大学欧文分校（外部）
进行这项研究的大学。它在计算机科学领域很有名。