[論文レビュー] Unsupervised Domain Adaptation via Structured Prediction Based Selective Pseudo-Labeling

Qian Wang, Toby P. Breckon|arXiv (Cornell University)|Nov 18, 2019

Domain Adaptation and Few-Shot Learning参考文献 37被引用数 10

ひとこと要約

本稿では、構造的予測に基づく選択的偽ラベル付与を用いて、偽ラベルの正確性を向上させ、誤りの蓄積を低減する、新しい非教師ありドメイン適応手法を提案する。ターゲット特徴の構造的パターンをK-meansクラスタリングを用いて活用し、教師あり局所性保持射影を繰り返し適用して偽ラベルを改善することで、4つのベンチマークデータセットで最先端の性能を達成した。Office-Caltechでは平均93.0%、Office-Homeでは71.0%の精度を達成した。

ABSTRACT

Unsupervised domain adaptation aims to address the problem of classifying unlabeled samples from the target domain whilst labeled samples are only available from the source domain and the data distributions are different in these two domains. As a result, classifiers trained from labeled samples in the source domain suffer from significant performance drop when directly applied to the samples from the target domain. To address this issue, different approaches have been proposed to learn domain-invariant features or domain-specific classifiers. In either case, the lack of labeled samples in the target domain can be an issue which is usually overcome by pseudo-labeling. Inaccurate pseudo-labeling, however, could result in catastrophic error accumulation during learning. In this paper, we propose a novel selective pseudo-labeling strategy based on structured prediction. The idea of structured prediction is inspired by the fact that samples in the target domain are well clustered within the deep feature space so that unsupervised clustering analysis can be used to facilitate accurate pseudo-labeling. Experimental results on four datasets (i.e. Office-Caltech, Office31, ImageCLEF-DA and Office-Home) validate our approach outperforms contemporary state-of-the-art methods.

研究の動機と目的

• ソースドメインとターゲットドメインのデータ分布が異なるというドメインシフトの課題に対処すること。
• ドメイン統合と性能に不可欠な、ラベルなしターゲットサンプルの偽ラベル付けの信頼性を向上させること。
• 不正確な偽ラベルによる壊滅的誤りの蓄積を、ターゲットドメイン特徴からの構造的情報を組み込むことで低減すること。
• クラスタリングと構造的予測を活用した選択的偽ラベル付け戦略を構築すること。
• 深層特徴と反復的精錬を組み合わせたハイブリッドアプローチにより、標準的なUDAベンチマークで最先端の性能を達成すること。

提案手法

• ターゲットドメインの深層特徴に対してK-meansクラスタリングを適用し、自然なグルーピングを特定し、構造的パターンを活用する。
• クラスタレベルの一貫性に基づいて構造的予測を適用し、個々のラベル付けよりも信頼性の高い偽ラベルを割り当てる。
• 選択的偽ラベル付け戦略を導入し、信頼度が高く、クラスタ一貫性があるサンプルのみをラベル付けることでノイズを低減する。
• 教師あり局所性保持射影（SLPP）を用いて、ソースラベル付きデータと選択されたターゲット偽ラベル付きデータを統合し、ドメイン不変部分空間を学習する。
• 反復的フレームワークとして、偽ラベル付け、部分空間学習、精錬を繰り返し実行し、モデルの一般化性能を段階的に向上させる。
• PCA次元（d₁）、SLPP次元（d₂）、反復回数（T）といったハイパーパrameterを調整し、d₂ > クラス数のときには感度が最小限に抑えられることを観察した。

実験結果

リサーチクエスチョン

• RQ1 クラスタリングに基づく構造的予測は、非教師ありドメイン適応における偽ラベル付けの正確性を向上させることができるか？
• RQ2 クラスタ構造に基づく選択的偽ラベル付けは、グローバルまたは独立ラベル付けと比較して誤りの蓄積を低減するか？
• RQ3 SLPPと構造的偽ラベル付けを用いた反復的精錬は、標準的なUDAベンチマークで既存の最先端手法を上回る性能を達成できるか？
• RQ4 PCA空間およびSLPP空間の次元に対する本手法のハイパーパrameterへの感受性はどの程度か？
• RQ5 構成要因のアブレーション（例：構造的予測 vs. 近傍クラスプロトタイプ）は、最終的な性能にどの程度の影響を及ぼすか？

主な発見

• Office-Caltechデータセットでは、平均93.0%の精度を達成し、MEDA（92.8%）を上回り、新たな最先端を樹立した。
• Office31では、6つのタスクのうち5つで最高または2番目の性能を記録し、平均89.6%の精度を達成。SymNets（88.4%）や他のSOTAモデルを上回った。
• ImageCLEF-DAでは、平均90.5%の最高精度を達成。SymNets（89.9%）とMEDA（89.0%）を上回った。
• 大規模データセットとしての挑戦的であるOffice-Homeでは、平均71.0%の精度を達成。CAPLS（70.6%）とSymNets（67.6%）を上回り、大規模データに対する頑健性を示した。
• アブレーションスタディにより、構造的予測を用いた選択的偽ラベル付けが性能向上に顕著に寄与することが確認された。全手法ではOffice-Homeで71.0%を達成し、選択なしのベースラインから2.8%の向上を示した。
• ハイパーパrameterに対して非常に感受性が低く、d₂ > クラス数のときには性能が安定しており、反復回数T > 2のときには影響が最小限に抑えられた。