神经网络经常出现过度自信问题（overconfidence），表现为对 in-distribution 和 out-of-distribution 的数据都产生比较高的概率置信度，这是 OOD 检测的一个最基础的概念。本文提出一种 Logit Normalization 方法，在训练过程中将 Logit 的范数限定为一个常数，对传统的交叉熵损失进行修正，来缓解这种 overconfidence 问题。

论文链接：https://arxiv.org/abs/2205.09310

内容中包含的图片若涉及版权问题，请及时与我们联系删除