[论文解读] MiniMax Entropy Network: Learning Category-Invariant Features for Domain Adaptation

Chaofan Tao, Fengmao Lv+2 more|arXiv (Cornell University)|Apr 21, 2019

Domain Adaptation and Few-Shot Learning参考文献 26被引用 9

一句话总结

该论文提出了一种新型无监督域自适应方法——最小最大熵网络（MMEN），通过使用不公平类别判别器强制实现源域与目标域之间的类别级特征对齐。通过最小化判别器在目标样本上的预测熵，MMEN促使生成器产出模仿源域特征的类别级目标特征，从而在基准数据集上实现最先进性能，且对超参数选择具有强鲁棒性。

ABSTRACT

How to effectively learn from unlabeled data from the target domain is crucial for domain adaptation, as it helps reduce the large performance gap due to domain shift or distribution change. In this paper, we propose an easy-to-implement method dubbed MiniMax Entropy Networks (MMEN) based on adversarial learning. Unlike most existing approaches which employ a generator to deal with domain difference, MMEN focuses on learning the categorical information from unlabeled target samples with the help of labeled source samples. Specifically, we set an unfair multi-class classifier named categorical discriminator, which classifies source samples accurately but be confused about the categories of target samples. The generator learns a common subspace that aligns the unlabeled samples based on the target pseudo-labels. For MMEN, we also provide theoretical explanations to show that the learning of feature alignment reduces domain mismatch at the category level. Experimental results on various benchmark datasets demonstrate the effectiveness of our method over existing state-of-the-art baselines.

研究动机与目标

• 解决现有域自适应方法仅关注全局域不变性而忽略类别级错位的问题。
• 通过将类别信息融入对抗性特征学习，提升模型在目标域上的泛化能力。
• 通过细粒度特征对齐，实现对未标注目标数据的有效源分类器应用。
• 为类别级特征对齐可减少域差异性提供理论依据。

提出的方法

• MMEN采用共享特征生成器G、类别判别器D和辅助分类器C，端到端联合训练。
• 类别判别器D被故意设计为不公平：能准确分类源样本，但对目标样本的类别判断则产生混淆。
• 生成器G最小化判别器在目标样本上的softmax输出熵，即使判别器不确定，也促使生成器产生置信度高的预测。
• 该极小极大博弈驱动生成器为每个特定类别生成与源特征对齐的目标特征。
• 该方法使用判别器生成的伪标签的交叉熵损失来指导特征学习，避免依赖真实目标标签。
• 超参数λ和k分别控制生成器与判别器更新之间的权衡与训练频率。

实验结果

研究问题

• RQ1 类别级特征对齐是否能在超越全局域不变性的基础上提升无监督域自适应性能？
• RQ2 使用不公平类别判别器的对抗性训练如何影响特征对齐与模型泛化能力？
• RQ3 在MMEN-based特征学习后，能否有效将源分类器应用于未标注目标数据？
• RQ4 MMEN对超参数λ和k的变化有多大的鲁棒性？

主要发现

• MMEN在MNIST→USPS和ImageCLEF-DA基准上均达到最先进性能，优于现有SOTA方法。
• 在MNIST→USPS数据集上，MMEN在λ=0.02且k=5时达到98.1%准确率，展现出对超参数设置的高鲁棒性。
• 源域与目标域特征之间的聚类中心距离（CCD）在所有类别中均显著降低，证实了有效的类别级对齐。
• 即使不进行微调，源分类器C在目标特征上的准确率也显著高于ResNet50，证明MMEN特征与源模型具有高度兼容性。
• 当λ增大或k减小时，模型仍保持稳定与有效性，尽管在极端设置下性能略有下降，主要由于梯度消失。