[论文解读] SPA: A Graph Spectral Alignment Perspective for Domain Adaptation

Zhiqing Xiao, Haobo Wang+5 more|arXiv (Cornell University)|Oct 26, 2023

Domain Adaptation and Few-Shot Learning被引用 8

一句话总结

SPA 引入一种图谱谱对齐框架用于无监督域适应，结合粗粒度域图对齐与邻居感知目标域自训练模块以提升判别力与可迁移性，在多个基准数据集上达到最新水平。

ABSTRACT

Unsupervised domain adaptation (UDA) is a pivotal form in machine learning to extend the in-domain model to the distinctive target domains where the data distributions differ. Most prior works focus on capturing the inter-domain transferability but largely overlook rich intra-domain structures, which empirically results in even worse discriminability. In this work, we introduce a novel graph SPectral Alignment (SPA) framework to tackle the tradeoff. The core of our method is briefly condensed as follows: (i)-by casting the DA problem to graph primitives, SPA composes a coarse graph alignment mechanism with a novel spectral regularizer towards aligning the domain graphs in eigenspaces; (ii)-we further develop a fine-grained message propagation module -- upon a novel neighbor-aware self-training mechanism -- in order for enhanced discriminability in the target domain. On standardized benchmarks, the extensive experiments of SPA demonstrate that its performance has surpassed the existing cutting-edge DA methods. Coupled with dense model analysis, we conclude that our approach indeed possesses superior efficacy, robustness, discriminability, and transferability. Code and data are available at: https://github.com/CrownX/SPA.

研究动机与目标

• 促成无监督域适应（UDA），以充分利用丰富的域内结构以及跨域可迁移性。
• 提出图谱谱对齐（GSA）框架，以在特征特征的特征嵌入空间对齐域图，提升跨域转移。
• 结合细粒度的邻居感知传播（NAP）模块与伪标签提高目标域的判别力。
• 在标准基准上证明 SPA 的有效性、鲁棒性与可迁移性，并分析其组成部分。

提出的方法

• 从学习得到的特征为源域与目标域构建域内自相关图。
• 通过拉普拉斯特征值定义源目标图之间的图谱距离，并将其最小化作为图谱对齐损失。
• 引入邻居感知传播（NAP）机制，通过加权近邻投票方案和带锐化与 EMA 更新的记忆库，在目标域生成伪标签。
• 将监督损失、域对抗损失、L_gsa 和 L_nap 结合为总目标 L_total，以实现端到端优化。
• 给出消融研究和鲁棒性分析，覆盖不同的拉普拉斯、相似性度量和 KNN 设置，以证明稳定性。

实验结果

研究问题

• RQ1 如何在没有显式节点对应关系的情况下对源域与目标域的图进行对齐？
• RQ2 在特征空间的谱域对齐是否能在保持域内判别力的同时提升跨域可迁移性？
• RQ3 在谱对齐后，邻居感知自训练策略是否能有效提高目标域的判别力？
• RQ4 相比现有的最先进UDA方法，在标准基准（DomainNet、OfficeHome、Office31、VisDA2017）上的表现如何？

主要发现

• 在 induсtive UDA 的 DomainNet 上，SPA 的平均准确率为 61.2%，优于若干先前方法。
• 在 OfficeHome 上，SPA 的平均准确率为 75.3%，较竞争方法略有提升。
• 在 Office31 上，SPA 达到 91.4% 的平均准确率，具有竞争力或优于多项基线。
• 在 VisDA2017 上，SPA 在 MixMatch 基准下达到 87.7%，超过了许多此前方法。
• 消融研究表明 L_gsa（图谱谱损）与 L_nap（邻居感知传播）均对性能提升有贡献，对拉普拉斯算子选择与相似性度量具有鲁棒性。