A Transparency Paradox? Investigating the Impact of Explanation Specificity and Autonomous Vehicle Perceptual Inaccuracies on Passengers

透明度可以通过提供可理解的解释来实现自动化系统的透明度。虽然透明度是可取的，但它可能会导致灾难性的结果（如焦虑），这可能会超过其好处。目前不太清楚解释的特定性（透明度水平）如何影响受众，特别是在自动驾驶（AD）中。在这项工作中，我们研究了透明度通过不同级别的解释特定性介导在AD中的影响。我们首先通过在AD中添加基于规则的解释生成选项来扩展了数据驱动的解释模型，然后在39名参与者的沉浸式驾驶模拟器内进行了一项被试实验，以研究所得到的解释的影响。具体而言，我们的研究重点关注以下两个方面：（1）不同类型的解释（具体 vs. 抽象）如何影响乘客对安全感、焦虑感和在车辆感知系统出现错误预测时接管车辆的意愿；（2）自动驾驶过程中乘客行为线索和感受之间的关系。我们的研究结果表明，在车辆感知系统出现最小错误时，乘客通过具体的解释感到更安全，而隐藏感知错误的抽象解释会导致更低的安全感。当具体解释揭示感知系统错误（高透明度）时，焦虑水平会增加。我们没有发现乘客的视觉模式与他们的焦虑水平之间有显著联系。我们的研究表明，当来自具有最佳感知准确性的自动驾驶汽车（AV）时，乘客更喜欢清晰具体的解释（高透明度）。

研究自动驾驶系统中透明度对乘客感知安全、焦虑和接管意愿的影响，以及乘客行为提示与情感之间的关系。

论文通过增加基于规则的解释生成选项，研究了不同类型的解释（具体 vs. 抽象）对乘客感知安全、焦虑和接管意愿的影响。结果表明，当车辆感知系统误差较小时，乘客更喜欢具体的解释，而隐藏感知误差的抽象解释会降低安全感。同时，具体解释揭示了感知系统误差时，焦虑水平会增加。

实验使用了39名参与者在沉浸式驾驶模拟器中进行，发现乘客更喜欢来自具有最佳感知准确性的自动驾驶汽车的清晰和具体的解释。

相关研究包括：1. "Explainable AI for Autonomous Driving: A Review"; 2. "The Effects of Explanation on Trust and reliance in Automated Decision Making"; 3. "A Survey of Explainable Artificial Intelligence (XAI)"