[論文レビュー] Attracting and Dispersing: A Simple Approach for Source-free Domain Adaptation

Shiqi Yang, Yaxing Wang+3 more|arXiv (Cornell University)|May 9, 2022

Domain Adaptation and Few-Shot Learning被引用数 54

ひとこと要約

本論文はAaDを紹介します。近傍のターゲット特徴間で予測を引きつけ、遠くの特徴の予測を拡散させるシンプルなソースフリーのドメイン適応目的を提案し、VisDA-Cで最先端の結果を達成し、Office-31/Office-Homeでソースデータを使用せずに高い性能を発揮します。

ABSTRACT

We propose a simple but effective source-free domain adaptation (SFDA) method. Treating SFDA as an unsupervised clustering problem and following the intuition that local neighbors in feature space should have more similar predictions than other features, we propose to optimize an objective of prediction consistency. This objective encourages local neighborhood features in feature space to have similar predictions while features farther away in feature space have dissimilar predictions, leading to efficient feature clustering and cluster assignment simultaneously. For efficient training, we seek to optimize an upper-bound of the objective resulting in two simple terms. Furthermore, we relate popular existing methods in domain adaptation, source-free domain adaptation and contrastive learning via the perspective of discriminability and diversity. The experimental results prove the superiority of our method, and our method can be adopted as a simple but strong baseline for future research in SFDA. Our method can be also adapted to source-free open-set and partial-set DA which further shows the generalization ability of our method. Code is available in https://github.com/Albert0147/AaD_SFDA.

研究の動機と目的

• ローカルな予測一貫性を用いて、SFDAを教師なしクラスタリング問題として動機づける。
• 識別可能性と多様性の二つの項を生み出す、単純な上界目的を開発する。
• ターゲット特徴のメモリバンクと最近傍検索による、効率的なトレーニングを可能にする。
• AaDを既存のDA、SFDA、対比学習法に関連付ける、識別可能性と多様性を介して。
• SFDAベンチマーク全体で強い経験的性能を示し、open-set/partial-set DAへの拡張性を示す。

提案手法

• AaDを、近くのターゲット特徴の予測を揃えるよう促し、遠くの特徴の予測を離すよう促す形で定式化する。
• 各特徴に対して2つの隣接集合を定義する：K最近傍集合C_iとバックグラウンド集合B_i。
• 上界目的 L_i(C_i,B_i) = - sum_{j in C_i} p_i^T p_j + lambda sum_{m in B_i} p_i^T p_m を提案し、ターゲット特徴と予測のメモリバンクを用いたミニバッチ最適化で最適化する。
• 近傍関係を定義するのにコサイン類似度を用い、効率的な検索のためにターゲット特徴/予測をメモリに格納する。
• Soft Neighborhood Density (SND)によって制御される減衰因子 lambda を組み込み、訓練を通じたクラスタリングと分散のバランスを取る。
• 項を識別可能性と多様性として解釈することで、AaDをMI、BNM、NC、対比学習法に関連付ける；識別可能性を重視した第1項と多様性を重視した第2項で最適化する。

実験結果

リサーチクエスチョン

• RQ1 局所的な隣接構造を用いて、ソースフリーのドメイン適応を教師なしクラスタリング問題として効果的に定式化できるか？
• RQ2 識別可能性と多様性の二つの項を持つ単純な上界目的が、ソースデータなしで競争力のあるSFDA性能を達成できるか？
• RQ3 提案するAaDフレームワークは、既存のDA/SFDAおよび対比学習法とどのように関連し、統合するか？
• RQ4 標準的なSFDAベンチマーク（Office-31、Office-Home、VisDA-C）におけるAaDの経験的利得は何か、またopen-set/partial-set DAへの拡張は可能か？

主な発見

• AaDはVisDA-Cでソースフリー手法の中で最先端の結果を達成（前例ベストより2.1%向上）し、ソースアクセスを持つ手法と比較してOffice-HomeおよびVisDAで高い性能を示す。
• 単純な二項目の目的は局所的な予測一貫性を促進しつつ多様性を促進し、複雑なモジュールなしでクラスタリングとクラスタ割り当てを可能にする。
• 本手法はSFDA設定で目的を効率的に実装するためにメモリバンクと最近傍検索に依存する。
• SNDによる第二項の減衰スケジュールは、教師なしのハイパーパラメータ選択と最終性能を向上させる。
• 実験はAaDがソースフリーのopen-setおよびpartial-set DA設定へ一般化することを示している。
• 軽量なメモリーバンク変種は計算量を削減しつつ競争力のある性能を維持する。