[論文レビュー] Prior Knowledge Guided Unsupervised Domain Adaptation

Tao Sun, Cheng Lu+1 more|arXiv (Cornell University)|Jul 18, 2022

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

本稿では、ターゲットドメインのクラス分布に関する事前知識を統合することで、ドメインシフトの状況下でのモデル一般化性能を向上させる、新規フレームワークである知識誘導型教師なしドメイン適応（KUDA）を提案する。本手法は、一様境界と二項関係を制約として用いるゼロ・オブン・プログラミング（ZOP）定式化と滑らか regularization を用いて、疑似ラベルを精緻化する補正モジュールを導入し、SHOT や DINE などの自己学習ベース UDA 法における性能を顕著に向上させる。複数のベンチマークで実験した結果、顕著な性能向上が得られた。

ABSTRACT

The waive of labels in the target domain makes Unsupervised Domain Adaptation (UDA) an attractive technique in many real-world applications, though it also brings great challenges as model adaptation becomes harder without labeled target data. In this paper, we address this issue by seeking compensation from target domain prior knowledge, which is often (partially) available in practice, e.g., from human expertise. This leads to a novel yet practical setting where in addition to the training data, some prior knowledge about the target class distribution are available. We term the setting as Knowledge-guided Unsupervised Domain Adaptation (KUDA). In particular, we consider two specific types of prior knowledge about the class distribution in the target domain: Unary Bound that describes the lower and upper bounds of individual class probabilities, and Binary Relationship that describes the relations between two class probabilities. We propose a general rectification module that uses such prior knowledge to refine model generated pseudo labels. The module is formulated as a Zero-One Programming problem derived from the prior knowledge and a smooth regularizer. It can be easily plugged into self-training based UDA methods, and we combine it with two state-of-the-art methods, SHOT and DINE. Empirical results on four benchmarks confirm that the rectification module clearly improves the quality of pseudo labels, which in turn benefits the self-training stage. With the guidance from prior knowledge, the performances of both methods are substantially boosted. We expect our work to inspire further investigations in integrating prior knowledge in UDA. Code is available at https://github.com/tsun/KUDA.

研究の動機と目的

• 教師なしドメイン適応（UDA）における大規模なドメインシフトの状況下で、ラベルなしターゲットデータが利用可能であるという課題に対処すること。
• ドメインスペシャリストや歴史的データから入手可能な、ターゲットクラス分布に関する事前知識を UDA に統合する実用的妥当性を検討すること。
• 事前知識の制約を強制することで疑似ラベル品質を向上させる、汎用的でプラグイン可能な補正モジュールの開発。
• 大規模な分布シフトが生じる状況下でも、自己学習ベースの UDA 法における事前知識の統合が顕著な性能向上をもたらすかどうかを検証すること。
• 今後の研究における、ドメイン適応における事前知識の体系的統合を促進すること。

提案手法

• 教師なしドメイン適応（UDA）の新規設定、知識誘導型教師なしドメイン適応（KUDA）を提案する。この設定では、ラベルなしターゲットデータに加えて、ターゲットドメインのクラス分布に関する事前知識が利用可能である。
• 二種類の事前知識を定義する：一様境界（個々のクラス確率の下限および上限）と二項関係（二つのクラス確率間の相対的順序）。
• 疑似ラベルの精緻化をゼロ・オブン・プログラミング（ZOP）問題として定式化し、事前知識を制約として組み込む補正モジュールを設計する。
• 隣接するサンプル間の疑似ラベルの一貫性を維持するために、滑らか regularization を導入する。
• SHOT や DINE などの自己学習ベースの UDA 法に補正モジュールを統合し、kSHOT および kDINE を構築する。
• ZOP 問題を凸緩和と反復最適化を用いて近似的に解くことで、エンド・ツー・エンドの学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 ターゲットクラス分布に関する事前知識が、教師なしドメイン適応における疑似ラベル品質を向上させることができるか？
• RQ2 提示された補正モジュールは、一様境界と二項関係を用いて、モデルが生成した疑似ラベルの精緻化にどの程度効果的か？
• RQ3 事前知識の統合が、特に大規模な分布シフトが生じる状況下でも、多様なドメインシフト状況において一貫した性能向上をもたらすか？
• RQ4 事前知識が利用可能な状況下で、本手法は SHOT や DINE などの最先端 UDA 法と比較して優れているか？
• RQ5 補正モジュールは、既存の自己学習ベースの UDA フレームワークに効果的かつ柔軟に統合可能か？

主な発見

• 提示された補正モジュールは、事前知識の制約を強制することで、疑似ラベル品質を顕著に向上させた。教師モデル出力と真のターゲット分布との間のKullback-Leibler（KL）ダイバージェンスが低減されたことからも、その有効性が裏付けられた。
• 補正モジュールを統合した kSHOT および kDINE は、4つの UDA ベンチマークにおいて、元のバージョン（vanilla）と比較して顕著に高い精度を達成した。
• Office-Home データセットでは、kDINE に一様境界（UB）を適用した場合、平均精度 71.4% を達成し、DINE（69.7%）および DINE∗∗（67.9%）を上回った。これは、事前知識統合の有効性を示している。
• VisDA-2017 データセットでは、kDINE に二項関係（BR）を適用した場合、平均精度 85.3% を達成し、DINE の 84.2% を上回った。これは、ラベルシフト状況下でも性能向上が確認されたことを示している。
• アブレーションスタディの結果、ワンホットラベルを滑らかラベルの代わりに使用すると性能が低下するが、kDINE∗ でさえ DINE∗∗ を上回る結果となり、最適でない状況下でも事前知識の価値が裏付けられた。
• 初期化に依存せず、複数回の実験で標準偏差が低く抑えられ、性能向上の安定性が確認された。