Pseudo-label Learning with Calibrated Confidence Using an Energy-based Model

在伪标记（PL）中，伪标签是根据分类器提供的置信度分数分配的，因此准确的置信度对于成功的PL很重要。在本研究中，我们提出了一种基于能量模型（EBM）的PL算法，称为基于能量的PL（EBPL）。在EBPL中，通过共享它们的特征提取部分，神经网络分类器和EBM共同训练。这种方法使模型能够学习类决策边界和输入数据分布，增强网络训练期间的置信度校准。实验结果表明，EBPL在半监督图像分类任务中优于现有的PL方法，具有更好的置信度校准误差和识别准确性。

论文旨在通过提出一种基于能量模型（EBM）的半监督学习方法来解决伪标记技术中置信度不准确的问题。

EBPL通过共享特征提取部分，联合训练神经网络分类器和EBM，从而学习类决策边界和输入数据分布，提高置信度校准。

实验结果表明，EBPL在半监督图像分类任务中表现优异，置信度校准误差和识别准确率均优于现有的伪标记方法。

在半监督学习领域中，还有一些相关研究，例如：1. MixMatch: A Holistic Approach to Semi-Supervised Learning; 2. Unsupervised Data Augmentation for Consistency Training; 3. Mean teachers are better role models: Weight-averaged consistency targets improve semi-supervised deep learning