Automatic AI controller that can drive with confidence: steering vehicle with uncertainty knowledge

在与现实世界接口的安全关键系统中，尤其是在机器学习模型的情况下，决策中的不确定性起着至关重要的作用。为了确保网络物理系统（CPS）的安全运行，必须熟练地管理这种不确定性。在这项研究中，我们专注于使用机器学习框架开发车辆的横向控制系统。具体而言，我们采用贝叶斯神经网络（BNN），一种概率学习模型，来处理不确定性量化。这种能力使我们能够衡量模型预测的置信度或不确定性。基于BNN的控制器是使用从车辆穿越单个轨道收集的模拟数据进行训练的，随后在各种其他轨道上进行测试。我们想分享两个重要的结果：首先，训练好的模型展示了在多个类似轨道上适应并有效控制车辆的能力。其次，集成到控制器中的预测置信度作为早期警报系统，当算法对其预测缺乏信心且因此容易失败时发出信号。通过建立置信度阈值，我们可以触发手动干预，确保在算法超出安全参数时控制权被剥夺。

论文旨在开发一个机器学习框架下的车辆横向控制系统，利用贝叶斯神经网络（BNN）来处理不确定性，以确保在不同的道路上车辆的安全运行。

使用BNN模型进行训练和预测，通过不确定性量化来监测模型预测的置信度，并设置置信度阈值来触发手动干预以确保车辆的安全运行。

实验表明，训练的BNN模型可以适应并有效控制车辆在多个类似的道路上行驶。通过量化置信度并设置阈值，可以触发手动干预以确保算法在安全参数范围内运行。该论文的亮点在于将BNN模型应用于车辆控制系统，并利用不确定性量化来监测模型预测的置信度。

最近的相关研究包括基于深度学习的车辆控制系统和不确定性量化方法的研究，如《Probabilistic Deep Learning for Safe and Fast Autonomous Driving》和《Uncertainty Quantification and Management in Deep Learning for Autonomous Driving》。