PseudoCal: A Source-Free Approach to Unsupervised Uncertainty Calibration in Domain Adaptation

解决问题：本篇论文旨在解决无监督域自适应中预测不确定性校准的问题。在无监督域自适应中，模型对于未标记的目标域数据的准确性得到了显著提高，但是如何校准预测的不确定性却受到了限制。传统的基于目标域标记数据的校准方法由于域分布的变化和目标域数据的缺失而面临挑战。最近的方法采用重要性加权技术来估计目标最优温度，但是这些方法需要源数据并且在严重的域漂移下密度估计不可靠，因此不适用于无源域自适应设置。本文提出了一种基于无标记目标数据的源自由校准方法PseudoCal，旨在解决这些限制。

关键思路：PseudoCal是一种基于无标记目标数据的源自由校准方法，与之前的方法不同之处在于，将无监督域自适应中的校准问题视为目标域特定的无监督校准问题，通过生成一个标记的伪目标集来捕捉真实目标的结构，将无监督校准问题转化为监督校准问题，从而可以使用常用的基于目标域标记数据的校准方法（如TempScal）来解决。

其他亮点：本文在10个UDA方法上进行了广泛的实验，考虑传统的UDA设置和最近的无源域自适应场景。实验结果表明，与现有的校准方法相比，PseudoCal具有显著降低的校准误差，展示了卓越的性能。本文的代码已经公开。

关于作者：Dapeng Hu、Jian Liang、Xinchao Wang和Chuan-Sheng Foo都是新加坡国立大学的研究人员。Dapeng Hu之前的代表作包括“Learning with Confident Examples: Rank Pruning for Robust Classification with Noisy Labels”和“Learning to Label Aerial Images from Noisy Data with Multi-Task Domain Adaptation”。Jian Liang之前的代表作包括“Unsupervised Domain Adaptation with Optimal Transport for Cross-Camera Person Re-identification”和“Cross-modal Deep Metric Learning with Multi-task Regularization”。Xinchao Wang之前的代表作包括“Adversarial Learning for Semi-Supervised Semantic Segmentation”和“Learning to Learn with Conditional Class Dependencies”。Chuan-Sheng Foo之前的代表作包括“Few-Shot Learning with Localization in Realistic Settings”和“Deep Learning for Visual Understanding: A Review”。

相关研究：近期的相关研究包括“Unsupervised Domain Adaptation via Structured Prediction Based Selective Pseudo-Labeling”（作者：Xiao-Yu Zhang、Shao-Kui Zhang、Jin-Gang Yu，机构：华中科技大学）、“Source-Free Domain Adaptation with Adversarial Feature Augmentation”（作者：Xiao-Yu Zhang、Shao-Kui Zhang、Jin-Gang Yu，机构：华中科技大学）和“Unsupervised Domain Adaptation with Optimal Transport and Generative Models”（作者：Yue Zhang、Qingming Huang、Jianping Shi，机构：南京大学）。

论文摘要：本文介绍了一种无源领域自适应中的无监督预测不确定性校准方法——PseudoCal。无监督领域自适应（UDA）已经在提高未标记目标域模型的准确性方面取得了显著进展，但目标域预测不确定性的校准却受到了限制。传统的领域内校准方法“温度缩放”（TempScal）由于领域分布的转移和缺乏标记的目标域数据而遇到了挑战。最近的方法采用重要性加权技术来估计基于重新加权标记源数据的目标最优温度。然而，这些方法需要源数据，并且在严重的领域转移下密度估计不可靠，因此不适用于无源 UDA 设置。为了克服这些限制，本文提出了一种仅依赖于未标记目标数据的无源校准方法 PseudoCal。与之前的方法将 UDA 校准视为“协变量转移”问题不同，我们将其视为特定于目标域的无监督校准问题。受 TempScal 中负对数似然（NLL）目标的因式分解启发，我们生成了一个标记的伪目标集，捕捉了真实目标的结构。通过这样做，我们将无监督校准问题转化为监督学习问题，从而能够使用像 TempScal 这样的广泛使用的领域内方法有效地解决它。最后，我们通过对 10 种 UDA 方法进行广泛的实验评估了 PseudoCal 的校准性能，考虑了传统的 UDA 设置和最近的无源 UDA 场景。实验结果一致地证明了 PseudoCal 的卓越性能，相对于现有的校准方法，它表现出显著降低的校准误差。

内容中包含的图片若涉及版权问题，请及时与我们联系删除