[論文レビュー] Effective Label Propagation for Discriminative Semi-Supervised Domain Adaptation

Zhiyong Huang, Kekai Sheng+6 more|arXiv (Cornell University)|Dec 4, 2020

Domain Adaptation and Few-Shot Learning参考文献 46被引用数 8

ひとこと要約

本稿では、相互ドメインサイクル不一致損失と動的しきい値付きの自己学習およびバランスの取れた疑似ラベル集約を用いて、ターゲットドメインにおける特徴の判別性を向上させる、新たな半教師付きドメイン適応フレームワーク Effective Label Propagation (ELP) を提案する。ELP は Office-Home および DomainNet において最先端の SSDA メソッドを 2–3% まで向上させ、VisDA-2017 では UDA の性能を 81.5% から 86.1% まで向上させる。

ABSTRACT

Semi-supervised domain adaptation (SSDA) methods have demonstrated great potential in large-scale image classification tasks when massive labeled data are available in the source domain but very few labeled samples are provided in the target domain. Existing solutions usually focus on feature alignment between the two domains while paying little attention to the discrimination capability of learned representations in the target domain. In this paper, we present a novel and effective method, namely Effective Label Propagation (ELP), to tackle this problem by using effective inter-domain and intra-domain semantic information propagation. For inter-domain propagation, we propose a new cycle discrepancy loss to encourage consistency of semantic information between the two domains. For intra-domain propagation, we propose an effective self-training strategy to mitigate the noises in pseudo-labeled target domain data and improve the feature discriminability in the target domain. As a general method, our ELP can be easily applied to various domain adaptation approaches and can facilitate their feature discrimination in the target domain. Experiments on Office-Home and DomainNet benchmarks show ELP consistently improves the classification accuracy of mainstream SSDA methods by 2%~3%. Additionally, ELP also improves the performance of UDA methods as well (81.5% vs 86.1%), based on UDA experiments on the VisDA-2017 benchmark. Our source code and pre-trained models will be released soon.

研究の動機と目的

• 半教師付きドメイン適応において、既存のドメインアライメントが実施されていても、ターゲットドメインにおける学習済み表現の判別性が限られているという問題に取り組む。
• ドメイン間およびドメイン内における意味的情報伝達を活用することで、ターゲットドメインにおける特徴の判別性を向上させる。
• 動的しきい値戦略とバランスの取れた集約を用いた堅牢な自己学習戦略により、疑似ラベル化されたターゲットサンプルのノイズを軽減する。
• アーキテクチャの変更なしに SSDA および UDA メソッドの両方を向上させる汎用性の高いフレームワークを開発する。

提案手法

• 各ドメインの特徴が他方のラベル付きサンプルを説明できるように要件を課すことにより、ソースドメインとターゲットドメイン間のラベル一貫性を強制するサイクル不一致損失 (CDL) を導入する。
• 2段階の訓練プロセスを採用する：第1段階では CDL を用いて初期表現を学習し、第2段階では自己学習を用いてそれを精練する。
• ターゲットドメインにおける高信頼度の疑似ラベル付きサンプルをフィルタリングするための動的しきい値戦略を適用し、クラス固有の不確実性に適応する。
• 信頼性の高い疑似ラベルを時間経過とともに保存・更新するメモリバンクを用い、訓練の安定性を向上させる。
• 学習可能なラムダパラメータを用いたランダムミックスアップを用いて、バランスの取れた疑似ラベル集約を実装し、特徴の判別性を向上させる。
• 既存の SSDA および UDA フレームワークにプラグインとして統合可能であり、一般化可能な適用性を実現する。

実験結果

リサーチクエスチョン

• RQ1 半教師付きドメイン適応において、ドメイン間のラベル一貫性を効果的に強制することで、ソースドメインとターゲットドメイン間の意味的アライメントを向上させることができるか？
• RQ2 疑似ラベル化されたターゲットデータのノイズを低減し、特徴の判別性を向上させるために、ドメイン内自己学習をどのように設計できるか？
• RQ3 ドメインシフトの存在下で、信頼性の高い疑似ラベル付きサンプルの選択に動的しきい値戦略が果たす役割は何か？
• RQ4 適応的ラムダを用いたバランスの取れたミックスアップ戦略は、固定またはランダムなミキシングと比較して表現学習をどのように改善するか？
• RQ5 ELP は、多様なベンチマークにおいて SSDA および UDA メソッドをどの程度向上させることができるか？

主な発見

• ELP は、Office-Home および DomainNet ベンチマークにおいて、最先端の SSDA メソッドの分類精度を 2–3% まで向上させる。
• VisDA-2017 において、ELP をベースライン UDA メソッドに適用することで、UDA の性能が 81.5% から 86.1% まで向上する。
• アブレーションスタディの結果、ELP の両段階が不可欠であり、第2段階がベースラインに比べて判別性を顕著に向上させることを確認した。
• 動的しきい値戦略は、固定しきい値を上回り、特にクラス不均衡やドメインシフトの処理において、クラス固有の信頼度に適応することで優れた性能を示した。
• バランスの取れたミックスアップにおける最適なラムダ値は 0.5 であり、ラムダを低下させると性能が低下するため、対称的なデータミキシングの重要性が裏付けられた。
• ラムダ=0.5 のモデルは、Office-Home ベンチマークで 71.5% の最高平均精度を達成し、MME やアブレーションバリアントを上回った。