【论文标题】Semi-Supervised Learning with Variational Bayesian Inference and Maximum Uncertainty Regularization 【作者团队】Kien Do, Truyen Tran, Svetha Venkatesh 【团队介绍】Svetha Venkatesh 迪肯大学教授,主要研究方向为贝叶斯优化 【发表时间】2020.12.3 【推荐理由】论文收录于AAAI-2021会议,研究人员提出两种改进半监督学习的通用方法。

第一种方法将权重扰动整合到现有的基于一致性正则化的方法中,研究人员通过利用变分贝叶斯推理来实现权重扰动。第二种方法提出了一种新型的一致性损失,称为最大不确定性正则化。虽然大多数一致性损失作用于每个数据点附近的扰动,但最大不确定性正则化主动搜索位于该区域之外的虚拟点,这些点会导致最不确定的类预测。这使得最大不确定性正则化能够在输入-输出流的更大范围内施加平滑性。实验表明,当各种基于一致性正则化的方法与变分贝叶斯或最大不确定正则化或两者进行结合时,它们的分类误差有明显的改善。

图:大部分不确定的虚拟点通常位于x0附近且极具破坏力

内容中包含的图片若涉及版权问题,请及时与我们联系删除