[논문 리뷰] SPA: A Graph Spectral Alignment Perspective for Domain Adaptation

Zhiqing Xiao, Haobo Wang외 5명|arXiv (Cornell University)|2023. 10. 26.

Domain Adaptation and Few-Shot Learning인용 수 8

한 줄 요약

SPA는 비지도 학습 도메인 적응(UDA)을 위한 그래프 고유스펙트럼 정렬 프레임워크를 도입하며, 거친 도메인 그래프 정렬과 이웃 인식 타깃 도메인 자기훈련 모듈을 결합하여 식별성 및 전이 가능성을 향상시키고, 여러 벤치마크에서 최첨단 성능을 달성한다.

ABSTRACT

Unsupervised domain adaptation (UDA) is a pivotal form in machine learning to extend the in-domain model to the distinctive target domains where the data distributions differ. Most prior works focus on capturing the inter-domain transferability but largely overlook rich intra-domain structures, which empirically results in even worse discriminability. In this work, we introduce a novel graph SPectral Alignment (SPA) framework to tackle the tradeoff. The core of our method is briefly condensed as follows: (i)-by casting the DA problem to graph primitives, SPA composes a coarse graph alignment mechanism with a novel spectral regularizer towards aligning the domain graphs in eigenspaces; (ii)-we further develop a fine-grained message propagation module -- upon a novel neighbor-aware self-training mechanism -- in order for enhanced discriminability in the target domain. On standardized benchmarks, the extensive experiments of SPA demonstrate that its performance has surpassed the existing cutting-edge DA methods. Coupled with dense model analysis, we conclude that our approach indeed possesses superior efficacy, robustness, discriminability, and transferability. Code and data are available at: https://github.com/CrownX/SPA.

연구 동기 및 목표

• 도메인 내의 풍부한 구조와 함께 도메인 간 전이 가능성을 활용하기 위한 비지도 도메인 적응(UDA) 동기를 부여한다.
• 도메인 그래프를 고유공간에서 정렬하여 교차 도메인 전이를 개선하기 위한 그래프 스펙트럼 정렬(GSA) 프레임워크를 제안한다.
• 대상 도메인의 식별력을 높이기 위해 의사레이블링과 함께 미세한 수준의 이웃 인식 전파(NAP) 모듈을 도입한다.
• 표준 벤치마크에서 SPA의 효과성, 강건성 및 전이 가능성을 입증하고 구성요소를 분석한다.

제안 방법

• 학습된 특징으로 소스 및 타깃 도메인에 대한 도메인 내 자기상관 그래프를 구성한다.
• 램프라시안 고유값을 이용해 소스와 타깃 그래프 사이의 그래프 스펙트럼 거리를 정의하고 이를 그래프 스펙트럼 정렬 손실로 최소화한다.
• 대상 도메인의 의사레이블링을 통해 노드 간의 가중 KNN 유사 투표 방식과 샤프닝 및 EMA 업데이트를 갖춘 메모리 뱅크와 함께 이웃 인식 전파(NAP) 메커니즘을 도입한다.
• 감독 손실, 도메인 적대 손실, L_gsa, L_nap를 결합하여 L_total이라는 총 목적 함수를 형성하고 공동 최적화를 수행한다.
• 다양한 람플라시안, 유사도 지표, KNN 설정에 따른 소거 연구 및 강건성 분석을 제공하여 안정성을 입증한다.

실험 결과

연구 질문

• RQ1 명시적 노드 대응 없이 소스와 타깃 도메인 간에 도메인 그래프를 어떻게 정렬할 수 있는가?
• RQ2 고유공간(스펙트럴)에서 그래프를 정렬하는 것이 intra-domain 식별력을 보전하면서 도메인 간 전이 가능성을 향상시키는가?
• RQ3 스펙트럼 정렬 후 이웃 인식 자기훈련 전략이 타깃 도메인 식별력을 효과적으로 개선할 수 있는가?
• RQ4 표준 벤치마크(DomainNet, OfficeHome, Office31, VisDA2017)에서 SPA의 성능은 최첨단 UDA 방법과 비교하여 어떤가?

주요 결과

• SPA는 유도형(UDA)에서 DomainNet에서 평균 정확도 61.2%를 달성하여 다수의 기존 방법을 능가한다.
• OfficeHome에서 SPA는 평균 정확도 75.3%를 달성하여 경쟁 방법들보다 몇 퍼센트 포인트 앞선다.
• Office31에서 SPA는 평균 정확도 91.4%에 도달하여 많은 베이스라인과 경쟁력이 있거나 더 낫다.
• VisDA2017에서 SPA는 87.7%(MixMatch 기반 평가 하에)를 달성하여 다수의 기존 방법을 능가한다.
• 별도 실험에서 L_gsa(그래프 스펙트럼 손실)와 L_nap(이웃 인식 전파) 모두 성능 향상에 기여하며, 라플라시안 선택과 유사도 지표에 대해 강건함을 보인다.