[论文解读] Modified Distribution Alignment for Domain Adaptation with Pre-trained Inception ResNet

Youshan Zhang, Brian D. Davison|arXiv (Cornell University)|Apr 4, 2019

Domain Adaptation and Few-Shot Learning参考文献 49被引用 13

一句话总结

本文提出使用预训练 Inception ResNet-v2 模型提取的特征进行改进的分布对齐（Modified Distribution Alignment, MDA）方法，用于无监督域自适应。通过利用来自最后一层全连接层的高质量特征，并应用改进的分布对齐方法，该方法在 Office+Caltech-10、Office-31 和 Office-Home 数据集上分别实现了 4.8%、5.5% 和 10% 的 SOTA 准确率提升。

ABSTRACT

Deep neural networks have been widely used in computer vision. There are several well trained deep neural networks for the ImageNet classification challenge, which has played a significant role in image recognition. However, little work has explored pre-trained neural networks for image recognition in domain adaption. In this paper, we are the first to extract better-represented features from a pre-trained Inception ResNet model for domain adaptation. We then present a modified distribution alignment method for classification using the extracted features. We test our model using three benchmark datasets (Office+Caltech-10, Office-31, and Office-Home). Extensive experiments demonstrate significant improvements (4.8%, 5.5%, and 10%) in classification accuracy over the state-of-the-art.

研究动机与目标

• 探索使用预训练 Inception ResNet-v2 特征进行域自适应的可行性，因为先前的研究大多忽略了这一方法。
• 通过从 Inception ResNet-v2 的最后一层全连接层提取特征，以提升特征表示的质量，从而捕获更全面的特征信息。
• 开发一种改进的分布对齐方法，以更好地对齐源域和目标域的特征分布，从而提高分类准确率。
• 在标准域自适应基准上，展示显著优于现有 SOTA 方法的性能提升。

提出的方法

• 从预训练的 Inception ResNet-v2 模型的最后一层全连接层提取特征，其提供的表示比早期层或其他特征提取器（如 DeCAF）更具丰富性和判别性。
• 提出一种改进的分布对齐（MDA）方法，通过最小化特征空间中的分布差异，同时对齐源域和目标域的边缘分布与条件分布。
• 引入一个正则化项，包含超参数 λ、ρ、p 和 η，以稳定训练过程并提升泛化能力，所有实验中均采用一致的参数值。
• 使用 t-SNE 可视化比较特征聚类质量，结果表明 MDAIR 产生的类边界更清晰、更具可分性，优于基线方法。
• 将该方法应用于三个基准数据集：Office+Caltech-10、Office-31 和 Office-Home，所有任务中均使用相同的特征提取器和对齐方法。
• 与 SOTA 模型 DANN、CDAN 和 MEDA 进行对比，使用相同的 IR 特征以隔离改进对齐方法的贡献。

实验结果

研究问题

• RQ1 与传统的特征提取器（如 DeCAF 或 SURF）相比，从预训练的 Inception ResNet-v2 模型中提取的特征是否能显著提升域自适应性能？
• RQ2 Inception ResNet-v2 的最后一层全连接层是否是域自适应任务中特征提取的最佳层？
• RQ3 所提出的改进分布对齐方法是否在标准基准上优于现有的分布对齐和对抗性域自适应技术？
• RQ4 特征表示的质量如何影响无监督域自适应中的最终分类准确率？

主要发现

• 在 Office+Caltech-10 数据集上，MDAIR 模型相较于最佳基线实现了 4.8% 的绝对准确率提升，平均准确率达到 96.7%。
• 在 Office-31 数据集上，模型较最佳基线提升 5.5%，平均准确率达到 89.8%。
• 在更具挑战性的 Office-Home 基准上，MDAIR 模型实现了 10% 的性能提升，平均准确率达到 72.8%，优于所有先前方法。
• t-SNE 可视化结果证实，即使使用相同的特征，MDAIR 产生的类簇更清晰、更具可分性，优于基线方法。
• Inception ResNet-v2 的最后一层全连接层相比早期层或分类层，能生成更优的特征，因其聚合了多层次的表示信息。
• 模型性能对特征质量敏感，使用更高精度的预训练模型有望进一步提升结果。