涂鸦路标能让无人驾驶汽车迷失方向

▌作者：Catalin Cimpanuu

▌翻译：360代码卫士团队

前言

由8名研究人员组成的团队发现通过更改路标，攻击者能迷惑无人驾驶汽车，导致汽车机器学习系统错误区分路标并作出错误决策，将乘客性命置于风险之中。

研究认为研究人员能够打印崭新的画报并覆盖在现有标识上，或者将小贴纸附着在合法标识上欺骗无人驾驶汽车认为自己查看的是另外一种类型的路标。虽然第一种场景甚至能够欺骗人类观察者而想要阻止它的发生几率很小，但第二种场景更像是一种普通的路标涂鸦并且可能仅影响自动驾驶车辆。

通过路标涂鸦欺骗车辆的准确率是67%

例如，以上图像表示的是多种路标破坏类型，研究人员利用这些图像欺骗自动驾驶汽车。

研究人员指出，左边的第一个图像即写着“love” 和 “hate”文字的图像能欺骗自动驾驶汽车的机器学习系统，让它将经典的“Stop” 标志错误地归类于 “Speed Limit 45（限速45）”，成功率是100%。

在第二个和第三个图像中，上面粘贴的胶带或涂鸦会导致出现相同的结果，即”SpeedLimit 45”，不过它的成功率是67%。

第四个图像中的海报伪装涂鸦能让自动驾驶汽车的机器学习系统将“Right Turn（右拐弯）”错误地归类为一个 “Stop” 标识，成功率是100%。

应对措施有限

随着自动驾驶汽车技术变得越来越普遍，任何一座智慧城市管理处都应该将清空路标视觉障碍作为一项强制任务。

研究人员标识相关部门可以通过使用防粘材料做路标标识来应对。另外，汽车厂商也应该考虑到机器学习系统相关的上下文信息。例如，在某些路段设置某些标识是不合理的（例如在州机高速公路上设置“Stop” 标识）。

感兴趣的读者可通过研究人员发布的论文《针对机器学习模型的强大的物理世界攻击》（https://arxiv.org/abs/1707.08945）了解更多详情。

这并非首篇说明自动驾驶汽车可遭入侵或者至少它们的正常运行会受到干扰的研究。2015年9月，Security Innovation公司的安全研究人员Jonathan Petit披露称他能轻易欺骗任意自动驾驶汽车上的LiDAR传感器，从而通过从简单的手工电子设备发出的激光脉冲让自动驾驶汽车减速或突然停车。

本文由360代码卫士编译，不代表360观点，转载请注明“转自360代码卫士www.codesafe.cn”。