[论文解读] Mind the Gap: Subspace based Hierarchical Domain Adaptation

Anant Raj, Vinay P. Namboodiri+1 more|arXiv (Cornell University)|Jan 16, 2015

Domain Adaptation and Few-Shot Learning参考文献 18被引用 4

一句话总结

本文提出一种基于分层子空间的域自适应方法，通过在语义类别内部而非整个源域和目标域之间分别对齐子空间，从而提升性能。通过利用类别层次结构为父类和子类学习独立的子空间，该方法在Caltech-256和Bing-Caltech数据集上相对于非分层基线方法实现了稳定的准确率提升。

ABSTRACT

Domain adaptation techniques aim at adapting a classifier learnt on a source domain to work on the target domain. Exploiting the subspaces spanned by features of the source and target domains respectively is one approach that has been investigated towards solving this problem. These techniques normally assume the existence of a single subspace for the entire source / target domain. In this work, we consider the hierarchical organization of the data and consider multiple subspaces for the source and target domain based on the hierarchy. We evaluate different subspace based domain adaptation techniques under this setting and observe that using different subspaces based on the hierarchy yields consistent improvement over a non-hierarchical baseline

研究动机与目标

• 通过类别的分层组织改进基于子空间的域自适应方法，以应对视觉分类中的域偏移问题。
• 探究通过层次结构建模类别间语义相似性是否能提升域自适应性能。
• 开发一种分步子空间对齐策略，首先在父类级别对齐子空间，然后在子类别内部进行对齐。
• 在具有已知语义层次结构的真实世界数据集上评估分层子空间对齐的有效性。
• 证明分层子空间对齐方法可超越严格标注的层次结构，通过无监督聚类相似类别实现泛化。

提出的方法

• 该方法构建类别的分层结构，将语义相似的类别分组为父节点，其子类别作为子节点。
• 使用PCA在源域和目标域数据上独立学习每个父类及其子类的子空间，从而生成多个与域相关的子空间。
• 在每个层次上，通过子空间对齐（SA）或测地流核（GFK）学习变换矩阵，将源域子空间映射到目标域子空间。
• 分层方法以分步方式应用域自适应：首先在根节点级别（全部数据），然后在父类级别，最后在子类别内部。
• 通过子空间基矩阵点积的迹来度量源域与目标域子空间之间的相似性，以验证对齐质量。
• 使用K-NN分类器并结合子空间投影特征，基于先前程序将子空间秩设为53，以确保鲁棒性。

实验结果

研究问题

• RQ1 与非分层方法相比，分层子空间对齐是否能提升域自适应性能？
• RQ2 当子空间分别针对父类和子类类别学习时，与全局学习相比，域自适应性能如何变化？
• RQ3 在源域和目标域中，语义相似类别的子空间在多大程度上相互对齐？
• RQ4 所提出的方法能否通过聚类语义相似类别，在无显式层次标签的数据集中实现泛化？
• RQ5 分层结构在不同粒度层次上对源域与目标域子空间相似性有何影响？

主要发现

• 分层子空间对齐方法在Caltech-256到Bing-Caltech的域自适应任务中取得了40.78%的准确率，优于使用子空间对齐的非分层基线方法（39.24%）。
• 在反向方向（Bing-Caltech到Caltech-256）中，分层方法达到48.36%的准确率，超过非分层基线方法的44.12%。
• 表2中的相似性矩阵显示，同一父类（Avian）的源域与目标域子空间之间相似性最高（3.74），证实了在语义组内实现了有效对齐。
• 矩阵的非对角线相似性显著较低（例如，Avian源域与Terrestrial目标域的相似性为0.18），表明语义不相似类别的子空间保持明显分离。
• 根级别子空间相似性（3.96）虽高，但低于父类级别相似性，表明全局对齐效果不如类别特定对齐。
• 该方法在域偏移的两个方向上均持续提升性能，展现出鲁棒性和泛化潜力。