Perceive With Confidence: Statistical Safety Assurances for Navigation with Learning-Based Perception

感知技术的快速进步使得可以直接使用大型预训练模型来处理世界的高维、嘈杂和部分观测数据，生成丰富的几何表征（例如，占据预测）。然而，由于在陌生环境中缺乏可靠的性能，将这些模型安全地集成到机器人上仍然具有挑战性。在这项工作中，我们提出了一个框架来严格量化预训练感知模型在占据预测方面的不确定性，以提供端到端的统计安全保证，用于导航。我们建立在符合性预测技术的基础上，产生一个校准的感知系统，轻量处理预训练模型的输出，同时确保在与规划器结合使用时对新环境的泛化和状态分布转移的鲁棒性。可以将校准系统与任何安全规划器结合使用，以提供用户指定阈值$1-\epsilon$下的端到端统计保证。我们在模拟和硬件实验中评估了所得到的方法——我们将其称为Perceive with Confidence（PwC）——其中一只四足机器人在包含在训练或校准期间未见过的对象的室内环境中导航。这些实验验证了PwC提供的安全保证，并证明与基线相比，经验安全率有了显著提高。

论文旨在解决将预训练模型安全地集成到机器人中的问题，以提供导航的端到端统计安全保证。

论文提出了一种基于符合性预测技术的框架，用于量化预训练模型在占用预测方面的不确定性，以提供对导航的端到端统计安全保证。

论文使用了Perceive with Confidence（PwC）方法，该方法在模型输出的基础上进行轻量级处理，确保在与规划器结合使用时对新环境具有泛化能力和鲁棒性。实验在仿真和硬件上进行，验证了PwC提供的安全保证，并与基线进行了比较，取得了显著的实验结果。

在最近的相关研究中，也有一些使用符合性预测技术的方法来提高机器人的安全性，例如“Conformal Lattice Sampling for Safe Navigation in Unknown Environments”和“Conformal Prediction for Safe Exploration and Control under Parametric and Model Uncertainty”。