[论文解读] Cross-Domain Visual Recognition via Domain Adaptive Dictionary Learning

Hongyu Xu, Jingjing Zheng+2 more|arXiv (Cornell University)|Apr 12, 2018

Domain Adaptation and Few-Shot Learning参考文献 43被引用 10

一句话总结

本文提出了一种领域自适应字典学习框架，通过在中间领域路径上学习共享字典和领域特定字典，弥合了跨领域视觉识别中的领域差异。通过交替进行稀疏编码和字典更新，该方法在三个基准数据集上实现了优越性能，在分布偏移下的物体识别和人脸识别任务中优于最先进方法。

ABSTRACT

In real-world visual recognition problems, the assumption that the training data (source domain) and test data (target domain) are sampled from the same distribution is often violated. This is known as the domain adaptation problem. In this work, we propose a novel domain-adaptive dictionary learning framework for cross-domain visual recognition. Our method generates a set of intermediate domains. These intermediate domains form a smooth path and bridge the gap between the source and target domains. Specifically, we not only learn a common dictionary to encode the domain-shared features, but also learn a set of domain-specific dictionaries to model the domain shift. The separation of the common and domain-specific dictionaries enables us to learn more compact and reconstructive dictionaries for domain adaptation. These dictionaries are learned by alternating between domain-adaptive sparse coding and dictionary updating steps. Meanwhile, our approach gradually recovers the feature representations of both source and target data along the domain path. By aligning all the recovered domain data, we derive the final domain-adaptive features for cross-domain visual recognition. Extensive experiments on three public datasets demonstrates that our approach outperforms most state-of-the-art methods.

研究动机与目标

• 解决视觉识别中训练（源）数据与测试（目标）数据分布不同的领域偏移挑战。
• 克服基于核的方法（如MMD）存在的扩展性差且难以捕捉全局非线性的问题。
• 通过结构化字典学习建模领域共享特征与领域特定特征，提升特征表示能力。
• 通过生成形成从源域到目标域连续路径的中间领域，实现领域间的平滑适应。
• 在无需目标领域标签数据的前提下实现鲁棒的跨领域识别，聚焦于无监督领域自适应。

提出的方法

• 提出一种新颖框架，学习用于共享特征的公共字典以及用于建模领域偏移的领域特定字典。
• 构建一系列中间领域，形成从源域到目标域的平滑路径，以逐步对齐特征分布。
• 通过在领域自适应稀疏编码与字典更新步骤之间交替进行，联合优化特征重建与领域对齐。
• 引入一个包含参数η的正则化项，以控制领域路径的影响，确保特征表示的稳定与平滑恢复。
• 利用领域转移矩阵的低秩近似，对所有领域（包括源域、中间域和目标域）的特征进行恢复与对齐。
• 通过领域转移矩阵的奇异值分解（SVD）推导字典更新的闭式解，确保计算效率。

实验结果

研究问题

• RQ1 结构化字典学习方法是否能有效建模共享特征与领域特定特征，从而提升跨领域视觉识别性能？
• RQ2 在源域与目标域之间引入沿路径的中间领域，是否能带来比直接领域自适应更优的特征对齐与性能表现？
• RQ3 将公共字典与领域特定字典分离的方法，与联合或共享字典学习相比，在处理领域偏移方面表现如何？
• RQ4 所提方法在无需目标领域标签数据的情况下，能在多大程度上减少分布差异？
• RQ5 在真实世界的视觉识别任务中，所提方法是否能优于现有的基于MMD和子空间的领域自适应技术？

主要发现

• 所提方法在三个公开的跨领域视觉识别基准数据集上达到最先进性能，涵盖物体识别与人脸识别任务。
• 大量实验证实，公共字典与领域特定字典的分离可生成更紧凑且可重构的表示，提升泛化能力。
• 中间领域路径实现了渐进式的特征恢复与对齐，相比直接建模领域偏移，适应效果更优。
• 该方法通过避免核方法的二次方扩展与局部泛化限制，优于现有基于MMD的方法。
• 消融实验表明，公共字典与领域特定字典均对性能有显著贡献，验证了双字典学习设计的合理性。
• 通过SVD推导的闭式解确保了字典学习过程中的计算效率与数值稳定性。