Delving Deep into Label Smoothing 论文链接：https://arxiv.org/abs/2011.12562 本文提出了一种在线标签平滑（OLS）策略，该策略根据目标类别的模型预测统计信息生成soft标签，可有效提高分类性能和模型的鲁棒性，优于LS、Bootsoft等方法，代码即将开源！作者单位：南开大学(程明明组), 新加坡国立大学, 悉尼科技大学

标签平滑是用于深度神经网络（DNN）的有效正则化工具，该工具通过在均匀分布和hard标签之间应用加权平均值来生成soft标签。它通常用于减少训练DNN的过拟合问题并进一步提高分类性能。在本文中，我们旨在研究如何生成更可靠的soft标签。我们提出了一种在线标签平滑（OLS）策略，该策略根据目标类别的模型预测统计信息生成软标签。提出的OLS在目标类别和非目标类别之间构造更合理的概率分布，以监督DNN。实验表明，基于相同的分类模型，该方法可以有效地提高CIFAR-100，ImageNet和细粒度数据集的分类性能。此外，与当前的标签平滑方法相比，该方法可以显著提高DNN模型对嘈杂标签的鲁棒性。该代码将公开提供。

内容中包含的图片若涉及版权问题，请及时与我们联系删除