Predicting Safety Misbehaviours in Autonomous Driving Systems using Uncertainty Quantification

本文评估了深度学习领域中不同的贝叶斯不确定性量化方法，在系统级基于模拟的测试中对安全关键的异常行为进行预测测试，这在自主车辆的安全性中起着至关重要的作用，特别是在不受支持和不可预测的情况下。具体而言，我们计算车辆执行时的不确定性得分，认为高不确定性得分表明不受支持的运行条件，可用于区分安全和导致故障的驾驶行为。在本研究中，我们评估了两种贝叶斯不确定性量化方法（MC-Dropout和Deep Ensembles）在误差避免方面的有效性和计算开销。总体而言，对于Udacity模拟器中的三个基准测试，包括通过变异测试引入的分布外和不安全条件，两种方法都成功地检测到了大量的越界情况，并提前几秒钟发出了预警，表现优于基于自动编码器和注意力图的两种最先进的误差预测方法，无误报的Deep Ensembles甚至在使用相对较少的模型时也能检测到大多数的误差，使其在实时检测中具有可行性。我们的研究结果表明，将不确定性量化方法纳入深度神经网络自主车辆的故障安全机制是可行的。

本文旨在评估深度学习领域中的贝叶斯不确定性量化方法，以在系统级仿真测试中预测安全性关键的错误行为，以提高自动驾驶车辆的安全性。

本文使用贝叶斯不确定性量化方法，通过计算车辆执行过程中的不确定性分数，提前几秒钟预测出不受支持的运行条件，从而识别安全和故障诱发的驾驶行为。在三个基准测试中，MC-Dropout和Deep Ensembles方法成功检测到了大量的越界情况，且没有误报，比基于自编码器和注意力图的两种最先进的错误行为预测方法更加有效和高效。

本文的亮点包括使用贝叶斯不确定性量化方法提高自动驾驶车辆的安全性，实验结果表明Deep Ensembles方法检测错误行为的效果最好，且没有误报，可用于实时检测。论文使用Udacity模拟器进行测试，开源代码可供使用。

最近的相关研究包括“Uncertainty-Aware Learning from Demonstration Using Mixture Density Networks for Autonomous Driving”和“Learning to Drive in a Day: An Easy to Use Modular Architecture for Driverless Cars”。