[论文解读] Bayesian Uncertainty Matching for Unsupervised Domain Adaptation

Jun Wen, Nenggan Zheng+3 more|arXiv (Cornell University)|Jun 24, 2019

Domain Adaptation and Few-Shot Learning参考文献 23被引用 9

一句话总结

本文通过使用贝叶斯神经网络进行预测不确定性建模，联合对齐特征分布与标签分布，提出了一种用于无监督域自适应的贝叶斯不确定性匹配（BUM）方法。通过最小化源域与目标域之间的不确定性差异，BUM 减少了条件分布偏移和负迁移问题，在 Office-31 和 Office-Home 基准测试中均取得了优于最先进方法的性能，且在准确率和鲁棒性方面表现出一致的提升。

ABSTRACT

Domain adaptation is an important technique to alleviate performance degradation caused by domain shift, e.g., when training and test data come from different domains. Most existing deep adaptation methods focus on reducing domain shift by matching marginal feature distributions through deep transformations on the input features, due to the unavailability of target domain labels. We show that domain shift may still exist via label distribution shift at the classifier, thus deteriorating model performances. To alleviate this issue, we propose an approximate joint distribution matching scheme by exploiting prediction uncertainty. Specifically, we use a Bayesian neural network to quantify prediction uncertainty of a classifier. By imposing distribution matching on both features and labels (via uncertainty), label distribution mismatching in source and target data is effectively alleviated, encouraging the classifier to produce consistent predictions across domains. We also propose a few techniques to improve our method by adaptively reweighting domain adaptation loss to achieve nontrivial distribution matching and stable training. Comparisons with state of the art unsupervised domain adaptation methods on three popular benchmark datasets demonstrate the superiority of our approach, especially on the effectiveness of alleviating negative transfer.

研究动机与目标

• 解决现有无监督域自适应方法仅对齐边缘特征分布、忽略分类器中标签分布偏移的局限性。
• 减少由在源数据上训练的有偏分类器应用于目标域所导致的条件分布偏移。
• 通过联合匹配特征与标签分布，提升泛化能力并缓解域自适应中的负迁移问题。
• 开发一种方法，利用预测不确定性作为无目标标签情况下的标签分布匹配代理。
• 通过领域自适应损失的自适应重加权，实现稳定训练与有效的域对齐。

提出的方法

• 采用贝叶斯神经网络（BNNs）对预测不确定性进行建模，该不确定性可作为条件分布 P(Y|Gϕ(X)) 的代理。
• 引入源域与目标域之间不确定性差异的最小化，以对齐特征与预测的联合分布。
• 构建联合优化目标，同时最小化域间特征分布差异与预测不确定性差异。
• 应用自适应重加权策略对领域自适应损失进行调整，以稳定训练并增强分布对齐效果。
• 使用蒙特卡洛 dropout 实现 BNN 中的近似贝叶斯推理，以估计不确定性而无需重新训练。
• 通过 t-SNE 可视化表示，验证了改进的对齐效果以及决策边界附近误分类样本的减少。

实验结果

研究问题

• RQ1 预测不确定性能否在无监督域自适应中有效作为标签分布匹配的代理？
• RQ2 联合匹配特征与不确定性分布是否能减少分类器中的条件分布偏移？
• RQ3 当源域与目标域具有显著不同的标签分布时，不确定性匹配能否缓解负迁移？
• RQ4 与仅对齐边缘特征分布的方法相比，不确定性匹配在鲁棒性与准确率方面表现如何？
• RQ5 自适应损失重加权能否提升基于不确定性的域自适应中的训练稳定性和域对齐效果？

主要发现

• 在 Office-31 数据集上，BUM 在 31→25 任务中达到 73.4% 的准确率，在 25→25(+6) 任务中达到 74.6%，优于 DANN 和 MADA。
• 在 31→25 任务中，DANN 受到负迁移影响，而 BUM 有效缓解了该问题，准确率达到 64.9%，显著优于 DANN 的性能表现。
• 在 Office-Home 数据集上，BUM 在 31→25 任务中达到 76.5% 的准确率，在 25→25(+6) 任务中达到 74.8%，展现出在多样化域之间的强大泛化能力。
• 该方法显著减少了源域与目标域之间预测不确定性的差异，且与测试准确率的提升及稳定收敛呈正相关。
• t-SNE 可视化结果证实，BUM 减少了决策边界附近的误分类目标样本，表明特征与不确定性的对齐效果更优。
• 损失的自适应重加权提升了训练稳定性，并增强了联合分布对齐效果，尤其在噪声或类别不平衡的设置下表现更佳。