[論文レビュー] Free Lunch for Domain Adversarial Training: Environment Label Smoothing

Yifan Zhang, Xue Wang+5 more|arXiv (Cornell University)|Feb 1, 2023

Anomaly Detection Techniques and Applications被引用数 23

ひとこと要約

この論文は Environment Label Smoothing (ELS) を導入し、環境ラベルをソフト化して Domain Adversarial Training (DAT) を安定化させ、ラベルノイズ耐性を改善し、多様なドメイン一般化/適応タスクで最先端の結果を達成します。

ABSTRACT

A fundamental challenge for machine learning models is how to generalize learned models for out-of-distribution (OOD) data. Among various approaches, exploiting invariant features by Domain Adversarial Training (DAT) received widespread attention. Despite its success, we observe training instability from DAT, mostly due to over-confident domain discriminator and environment label noise. To address this issue, we proposed Environment Label Smoothing (ELS), which encourages the discriminator to output soft probability, which thus reduces the confidence of the discriminator and alleviates the impact of noisy environment labels. We demonstrate, both experimentally and theoretically, that ELS can improve training stability, local convergence, and robustness to noisy environment labels. By incorporating ELS with DAT methods, we are able to yield state-of-art results on a wide range of domain generalization/adaptation tasks, particularly when the environment labels are highly noisy.

研究の動機と目的

• 過度に自信を持つ識別器とノイズのある環境ラベルが原因で生じる Domain Adversarial Training (DAT) の訓練の不安定性に対する動機付けと対処。
• 環境ラベルをソフト化し勾配の振動を減らすための Environment Label Smoothing (ELS) を提案。
• ELS を発散最小化とラベルノイズ耐性への理論的分析と結びつける。
• ELS を DAT 手法と統合した場合に、幅広いベンチマークとバックボーンで経験的改善を示す。

提案手法

• ELS を、ドメイン識別器が使用する環境ラベルの平滑化として定式化し、one-hot ターゲットをソフト確率に置換する。
• ELS が有効な訓練分布を拡張し、対立的目的関数における勾配を安定化させることを示す。
• ELS を JS/KL 発散の最小化と結びつけ、訓練の安定性と収束に関する理論的洞察を導出する。
• 平滑化パラメータ gamma の選択に関する指針と、データセット間のアニール戦略を検討する。

実験結果

リサーチクエスチョン

• RQ1 Environment Label Smoothing は Domain Adversarial Training を安定化し、環境ラベルノイズに対する感度を低減できるか？
• RQ2 多ドメイン設定における発散最小化、勾配挙動、非漸近的収束に対する ELS の影響はどうなるか？
• RQ3 多様なタスクにわたり、既存の DAT 手法と ELS を組み合わせることで、ドメイン一般化/適応でどのような経験的利得が得られるか？
• RQ4 一般化性能を最大化するために、平滑化パラメータ gamma をどのように選択またはアニーリングすべきか？

主な発見

• ELS はベンチマークとバックボーン全体で DAT ベースの手法を一貫して改善し、競合的または最先端の結果を達成する。
• Office-31、VLCS、PACS などのドメイン一般化タスクで、DANN+ELS は平均精度を向上させ、ノイズのある環境ラベルに対するロバスト性を高める。
• ELS は勾配の振動を抑制し訓練を安定化させ、素の DAT よりも速く、より信頼できる収束を可能にする。
• 理論分析は、ELS が訓練分布を拡張し、ラベルノイズの影響を軽減し、非漸近的収束を速めることを示す。
• 実験は、環境ラベルがランダムまたは部分的に知られている場合のロバスト性を示し、ラベルがノイズが多いまたは希少な場合に顕著な利得がある。