利用验证框架 JAIST揭示开源自动驾驶系统的安全漏洞

盖世汽车讯 据外媒报道，日本先进科学技术研究所（JAIST）研究人员利用新开发的验证框架，揭示了开源自动驾驶系统在高速行驶和突然切入车辆时的安全限制，这引发了人们对其实际部署的担忧。

图片来源： JAIST

在这项研究中，JAIST的研究助理教授Duong Dinh Tran及其团队（包括JAIST的Takashi Tomita副教授和Toshiaki Aoki教授）决定对开源自动驾驶系统Autoware进行严格的验证框架测试，以揭示其在关键交通情况下的潜在安全限制。

为了彻底检验Autoware的安全性，研究人员构建了一个特殊的虚拟测试系统。该系统相关论文发表在期刊《IEEE Transactions on Reliability》，并称该系统就像一个自动驾驶汽车的数字试验场。他们使用一种名为AWSIM-Script的语言，模拟各种棘手的交通状况——这些状况是日本汽车安全专家发现的现实世界危险。在这些模拟过程中，一个名为Runtime Monitor的工具会详细记录发生的所有事件，就像飞机上的黑匣子一样。

最后，另一个验证程序AW-Checker分析了这些记录，以验证Autoware是否遵守日本汽车制造商协会（JAMA）安全标准所定义的交通规则。该标准提供了一种清晰、结构化的方法来评估自动驾驶系统（ADS）的安全性。

研究人员重点关注了JAMA安全标准定义的三种特别危险且经常遇到的场景：并道（车辆突然驶入当前车辆的车道）、变道（前方车辆突然变道）和减速（前方车辆突然刹车）。他们将Autoware的表现与JAMA的“谨慎驾驶模型”（代表ADS最低预期安全水平的基准）进行了比较。

这些实验表明，Autoware未能始终满足谨慎驾驶员模型所定义的最低安全要求。正如Tran博士所解释的那样：“使用我们的框架进行的实验表明，与能力强且谨慎的驾驶员模型相比，Autoware无法始终如一地避免碰撞，尤其是在高速驾驶和其他车辆突然横向移动的情况下。”

这些失败的一个重要原因似乎是Autoware对其他车辆运动的预测存在错误。该系统通常预测的是缓慢而渐进的车道变换。然而，当面对快速、激进的车道变换车辆（例如在高速横向速度的切入场景中）时，Autoware的预测不准确，导致模拟中出现制动延迟和随后的碰撞。

有趣的是，该研究还比较了Autoware不同传感器设置的有效性。一种设置仅使用激光雷达，而另一种设置则结合了激光雷达和摄像头的数据。令人惊讶的是，在这些具有挑战性的场景中，仅使用激光雷达的模式通常比摄像头-激光雷达融合模式表现更好。研究人员认为，摄像头系统基于机器学习的物体检测的不准确性可能引入了噪声，从而对融合算法的性能产生负面影响。

这些发现具有重要的现实意义，因为一些定制版本的Autoware已经部署在公共道路上，以提供自动驾驶服务。“我们的研究强调了运行时验证框架如何有效地评估像Autoware这样的真实自动驾驶系统。”

Tran博士指出：“这样做有助于开发人员在系统部署前后识别并纠正潜在问题，最终促进开发更安全、更可靠的公共自动驾驶解决方案。”

虽然这项研究为Autoware在非交叉路口特定交通干扰条件下的表现提供了宝贵的见解，但研究人员计划扩展研究范围，涵盖更复杂的场景，例如交叉路口和涉及行人的场景。他们还计划在未来的研究中探究天气和道路状况等环境因素的影响。