[論文レビュー] Divide to Adapt: Mitigating Confirmation Bias for Domain Adaptation of Black-Box Predictors

Jianfei Yang, Xiangyu Peng+5 more|arXiv (Cornell University)|May 28, 2022

Domain Adaptation and Few-Shot Learning被引用数 15

ひとこと要約

本稿では、確認バイアスを軽減するため、ターゲットドメインを容易に適応可能な部分と困難に適応可能な部分に分割することで、ブラックボックス予測子のドメイン適応（DABP）のための新規フレームワークBETAを提案する。ガウス・ミックス・モデルに基づく損失クラスタリングと、データ拡張およびMixMatchを用いた相互学習型の二重ネットワークにより、BETAはノイズの多い偽ラベルを段階的に洗練させ、従来手法と比較してVisDA-17で7.0%の相対的向上を達成し、最先端の性能を実現する。

ABSTRACT

Domain Adaptation of Black-box Predictors (DABP) aims to learn a model on an unlabeled target domain supervised by a black-box predictor trained on a source domain. It does not require access to both the source-domain data and the predictor parameters, thus addressing the data privacy and portability issues of standard domain adaptation. Existing DABP approaches mostly rely on model distillation from the black-box predictor, \emph{i.e.}, training the model with its noisy target-domain predictions, which however inevitably introduces the confirmation bias accumulated from the prediction noises. To mitigate such bias, we propose a new method, named BETA, to incorporate knowledge distillation and noisy label learning into one coherent framework. This is enabled by a new divide-to-adapt strategy. BETA divides the target domain into an easy-to-adapt subdomain with less noise and a hard-to-adapt subdomain. Then it deploys mutually-teaching twin networks to filter the predictor errors for each other and improve them progressively, from the easy to hard subdomains. As such, BETA effectively purifies the noisy labels and reduces error accumulation. We theoretically show that the target error of BETA is minimized by decreasing the noise ratio of the subdomains. Extensive experiments demonstrate BETA outperforms existing methods on all DABP benchmarks, and is even comparable with the standard domain adaptation methods that use the source-domain data.

研究の動機と目的

• 知識蒸留中に誤った偽ラベルが蓄積される確認バイアスを是正すること。
• 既存のノイズラベル学習手法がデータをサブセット化するのとは異なり、ラベルなしターゲットデータを完全に活用すること。
• 困難に適応可能な部分ドメインにおけるノイズ比率を最小化することで、ターゲット誤差が低下することを理論的に正当化すること。
• ドメイン分割と相互学習を組み合わせることで、知識蒸留と半教師あり学習を効果的に統合するフレームワークの構築。
• 反復的かつ理論的根拠に基づいた方法を提供し、DABPにおける誤差蓄積を段階的に抑制すること。

提案手法

• 初期の知識蒸留からの損失分布に適合したガウス・ミックス・モデル（GMM）を用いて、ターゲットドメインを容易に適応可能な部分と困難に適応可能な部分に分割する。
• MixMatchに基づく半教師あり学習を用い、すべてのターゲットサンプルを活用する。容易な部分ドメインをラベル付きデータとして扱い、困難な部分ドメインをラベルなしデータとして扱う。
• データ拡張とMixupを用いて、予測の乖離を高め、誤差のフィルタリングを向上させる相互学習型の二重ネットワークを実装する。
• データ拡張とMixupを用いたドメイン分割の精緻化により、二重ネットワーク間の不一致を強化し、相互誤差補正を可能にする。
• 困難に適応可能な部分ドメインにおけるノイズ比率を低減することで、ターゲット誤差が最小化されることを示す理論的バインドを導入する。
• ドメイン分割のためのしきい値τのハイパーパrameter最適化により、部分ドメインのサイズと予測乖離のバランスをとる。

実験結果

リサーチクエスチョン

• RQ1 損失分布のクラスタリングに基づくドメイン分割は、DABPにおけるクリーンなサンプルとノイズの多いサンプルを効果的に分離できるか？
• RQ2 異なる拡張を用いた二重ネットワーク間の相互学習は、確認バイアスを低減させ、一般化性能を向上させるか？
• RQ3 困難に適応可能な部分ドメインにおけるノイズ比率は、最終的なターゲット誤差にどのように影響するか？また、理論的にバインド可能か？
• RQ4 知識蒸留と半教師あり学習を統合したフレームワークは、これらのパラダイムのいずれかのみを用いる従来のDABP手法を上回る性能を発揮できるか？
• RQ5 ドメイン分割における最適なハイパーパrameter設定（例：τ）は、部分ドメインのサイズと予測乖離の間でどのように最適なトレードオフを実現するか？

主な発見

• BETAはVisDA-17ベンチマークで最良のベースラインと比較して7.0%の相対的向上を達成し、最先端の性能を示した。
• BETAの誤差率は20エポックにわたり継続的に低下するが、標準的な知識蒸留は確認バイアスのため早期に飽和する。
• 確認バイアスが顕著に低減されており、困難に適応可能な部分ドメインにおいてBETAと知識蒸留の間で約10%の誤差ギャップが生じた。
• 相互学習型の二重ネットワークは、アブレーション比較において、0.6%（二重ネットワーク）、1.1%（知識蒸留）、0.9%（相互情報量）の性能向上を達成した。
• 最適なしきい値τ = 0.8は、部分ドメインのサイズと予測乖離のバランスを適切にとめ、Office-Home（Cl → Pr）で78.8%の精度を達成した。τが高くなると部分ドメイン間のIoUが低下し、乖離が増加していることが示された。
• t-SNE可視化では、訓練を経るごとにクラスクラスタがより緊密で明確に分離されており、特徴学習の向上と混同の低減を示している。