[論文レビュー] Label Propagation with Augmented Anchors: A Simple Semi-Supervised Learning baseline for Unsupervised Domain Adaptation

Yabin Zhang, Bin Deng+2 more|arXiv (Cornell University)|Jul 15, 2020

Domain Adaptation and Few-Shot Learning参考文献 50被引用数 11

ひとこと要約

本稿では、未ラベル付きのターゲットデータから高信頼度の仮想インスタンス（拡張アンカー）を生成することで、ラベル伝搬を強化する、非教師ありドメイン適応のための新しい半教師あり学習手法A²LPを提案する。反復的にA²LPを用いた仮ラベル付与とドメイン不変特徴学習を適用することで、Office-31、ImageCLEF-DA、VisDA-2017ベンチマークにおいて最先端の性能を達成し、標準的なラベル伝搬手法を著しく上回り、最先端のUDA手法の性能を高める。

ABSTRACT

Motivated by the problem relatedness between unsupervised domain adaptation (UDA) and semi-supervised learning (SSL), many state-of-the-art UDA methods adopt SSL principles (e.g., the cluster assumption) as their learning ingredients. However, they tend to overlook the very domain-shift nature of UDA. In this work, we take a step further to study the proper extensions of SSL techniques for UDA. Taking the algorithm of label propagation (LP) as an example, we analyze the challenges of adopting LP to UDA and theoretically analyze the conditions of affinity graph/matrix construction in order to achieve better propagation of true labels to unlabeled instances. Our analysis suggests a new algorithm of Label Propagation with Augmented Anchors (A$^2$LP), which could potentially improve LP via generation of unlabeled virtual instances (i.e., the augmented anchors) with high-confidence label predictions. To make the proposed A$^2$LP useful for UDA, we propose empirical schemes to generate such virtual instances. The proposed schemes also tackle the domain-shift challenge of UDA by alternating between pseudo labeling via A$^2$LP and domain-invariant feature learning. Experiments show that such a simple SSL extension improves over representative UDA methods of domain-invariant feature learning, and could empower two state-of-the-art methods on benchmark UDA datasets. Our results show the value of further investigation on SSL techniques for UDA problems.

研究の動機と目的

• ドメインシフトの影響により性能が低下する非教師ありドメイン適応（UDA）の文脈で、標準的な半教師あり学習（SSL）手法（例：ラベル伝搬（LP））を直接適用する課題に対処すること。
• ドメインシフトの下で、LPにおける類似度グラフが真のラベルを未ラベルのターゲットインスタンスに効果的に伝搬できる条件を分析すること。
• 未ラベルのターゲットデータから高信頼度の仮想インスタンス（拡張アンカー）を生成することでLPを強化する、新しい手法A²LPを提案すること。
• A²LPをドメイン不変特徴学習と統合した反復的フレームワークを構築し、仮ラベルの品質とモデルの汎化性能を向上させること。
• A²LPが標準的なLPを著しく上回り、UDAの強力なベースラインとして機能することを実験的に検証すること。

提案手法

• A²LPは、未ラベルのターゲットインスタンスの重み付き線形結合を計算することで、仮想の未ラベルインスタンス（拡張アンカー）を生成する。重みは、それらのソフトクラスタ割り当てのエントロピーから導出される。
• 低エントロピーの予測は高い信頼度を示すため、エントロピーが低いインスタンスは仮想インスタンス生成プロセスで高い重みが与えられる。
• ラベル伝搬用の類似度行列は、実インスタンスと拡張インスタンスの両方の特徴を用いて構築され、ラベル伝搬の信頼性が向上する。
• 本手法は、2段階の反復的処理を実行する：(1) A²LPを用いてターゲットデータの高品質な仮ラベルを生成し、(2) 仮ラベル付きのターゲットデータとラベル付きのソースデータを用いてドメイン不変特徴抽出器を学習する。
• 反復的な改善ループにより、次第に正確なドメイン不変表現を活用することで、仮ラベルの品質が時間経過とともに向上する。
• 本手法は標準的なUDAベンチマークに適用され、MSTN や CAN といった最先端の手法に統合され、それらの元々の仮ラベル生成器に置き換えられる。

実験結果

リサーチクエスチョン

• RQ1 ドメインシフトの存在下で、ラベル伝搬における類似度グラフが、未ラベルのターゲットインスタンスに真のラベルを効果的に伝搬できる条件は何か？
• RQ2 仮想インスタンスをどのように生成すれば、UDA環境下でのラベル伝搬の信頼性が向上するか？
• RQ3 A²LPとドメイン不変特徴学習を統合することで、複数のUDAベンチマークで一貫した性能向上が達成できるか？
• RQ4 A²LPは標準的なラベル伝搬を上回り、UDAの強力なベースラインとして機能するか？
• RQ5 A²LPは、単純な統合により、既存の最先端UDA手法の性能向上に利用できるか？

主な発見

• A²LPは、3つのベンチマークすべてで標準的なラベル伝搬を著しく上回る：Office-31（+4.3%の正確度）、ImageCLEF-DA（+4.3%）、VisDA-2017（+4.8%）。
• MSTNに統合した場合、ImageCLEF-DAにおける正確度は88.2%から89.4%に向上し、新たな最先端の結果を達成した。
• CANに適用した場合、ImageCLEF-DAにおける正確度は89.0%から90.3%に向上し、A²LPの有効性をさらに裏付けた。
• VisDA-2017では、ResNet-50を用いて82.7%の正確度、ResNet-101を用いて87.6%の正確度を達成し、元のCAN手法を上回った。
• アブレーションスタディの結果、グラフ構造と仮想インスタンス生成が性能に顕著な影響を与えることが確認され、A²LPの設計選択の妥当性が裏付けられた。
• 実験結果から、A²LPとドメイン不変特徴学習を交互に適用することで、一貫した顕著な改善が得られ、本手法の頑健性と一般化能力が示された。