Error-Driven Uncertainty Aware Training

神经网络通常对其预测过于自信，这会削弱其可靠性和信任度。在这项工作中，我们提出了一种新颖的技术，名为“误差驱动的不确定性感知训练（EUAT）”，旨在增强神经模型正确估计其不确定性的能力，即当其输出不准确的预测时高度不确定，而当其输出准确时低不确定。EUAT方法在模型的训练阶段操作，通过有选择地使用两个损失函数，具体取决于模型是否正确或错误地预测训练示例，从而实现追求两个目标：i）对于正确预测的输入最小化模型的不确定性；ii）对于错误预测的输入最大化不确定性，同时保持模型的错误预测率。我们使用图像识别领域中的多样化神经模型和数据集在非对抗和对抗设置下评估EUAT。结果表明，EUAT通过提供不仅在统计指标（例如与残差的相关性）上具有更高质量的不确定性估计，而且在构建二元分类器以决定模型的输出是否可信以及在分布数据转移下也表现出优于现有不确定性估计方法的效果（包括其他不确定性感知训练技术、校准、集合和DEUP）。

提高神经网络对预测的不确定性的估计能力，以增强其可靠性和可信度。

论文提出了一种名为Error-Driven Uncertainty Aware Training（EUAT）的新技术，通过在模型的训练阶段有选择地使用两个损失函数来追求最小化模型对正确预测输入的不确定性和最大化对错误预测输入的不确定性，同时保持模型的错误预测率。

论文使用多个数据集和神经网络模型在图像识别领域进行了实验，包括非对抗和对抗性情况。结果表明，EUAT相比现有的不确定性估计方法（包括校准、集成和DEUP等）提供了更高质量的不确定性估计，并且可以用于构建二进制分类器，以判断模型的输出是否可信。

相关研究包括校准方法、集成方法和DEUP等。