[論文レビュー] Out-of-distribution Prediction with Invariant Risk Minimization: The Limitation and An Effective Fix

Ruocheng Guo, Pengchuan Zhang+2 more|arXiv (Cornell University)|Jan 16, 2021

Domain Adaptation and Few-Shot Learning参考文献 35被引用数 16

ひとこと要約

この論文は、分布外（OOD）一般化における不変リスク最小化（IRM）の重大な制限を特定している：すなわち、色やドメインといった誤った相関（スループット）が、形状やクラスといった不変の相関よりも強い場合、深層ネットワーク（DNN）はIRMの正則化を回避する非重複でドメイン特化の表現を学習でき、結果としてOOD性能が著しく低下する。これを是正するため、著者らはIRMと条件付き分布マッチング（CDM）を組み合わせる手法を提案する。この手法により、同じクラスに対して異なるドメイン間で重複する表現を強制し、特に強い三角形スループットを有する新しい準実験的データセット（CMNIST+）において、OOD精度が著しく向上する。

ABSTRACT

This work considers the out-of-distribution (OOD) prediction problem where (1)~the training data are from multiple domains and (2)~the test domain is unseen in the training. DNNs fail in OOD prediction because they are prone to pick up spurious correlations. Recently, Invariant Risk Minimization (IRM) is proposed to address this issue. Its effectiveness has been demonstrated in the colored MNIST experiment. Nevertheless, we find that the performance of IRM can be dramatically degraded under \emph{strong $Λ$ spuriousness} -- when the spurious correlation between the spurious features and the class label is strong due to the strong causal influence of their common cause, the domain label, on both of them (see Fig. 1). In this work, we try to answer the questions: why does IRM fail in the aforementioned setting? Why does IRM work for the original colored MNIST dataset? How can we fix this problem of IRM? Then, we propose a simple and effective approach to fix the problem of IRM. We combine IRM with conditional distribution matching to avoid a specific type of spurious correlation under strong $Λ$ spuriousness. Empirically, we design a series of semi synthetic datasets -- the colored MNIST plus, which exposes the problems of IRM and demonstrates the efficacy of the proposed method.

研究の動機と目的

• スループット相関が不変相関よりも強い場合にIRMがOOD一般化でなぜ失敗するかを調査すること。
• IRMが正則化を回避する非重複なドメイン特化表現を学習するという制限を明らかにすること。
• IRMと条件付き分布マッチング（CDM）を組み合わせることで、ドメイン間で重複する不変表現を強制する解決策を提案すること。
• 強力な三角形スループットを誘発するように設計された新しい準実験的データセット（CMNIST+）上で提案手法を検証すること。
• CDM単体では不十分であるが、IRMと組み合わせることでOOD性能が著しく向上することを示すこと。

提案手法

• 著者らは、スループット特徴（色）とドメイン、クラスの間のスループット相関が、不変特徴（形状）とクラスの間の不変相関よりも強い、準実験的データセットCMNIST+を導入する。
• IRMに、同じクラスの表現分布が異なるドメイン間で類似するよう促すCDM正則化子を追加する。
• CDM正則化子は、特徴とクラスラベルからドメインラベルを予測する識別器ネットワークを介して実装され、予測確率と真のドメイン確率のKLダイバージェンスを最小化する。
• 組み合わせ損失は、IRM損失を最小化し、識別器を通じてCDM損失を最大化する交互ミニマックス手続きにより最適化される。
• 2つの変種が評価された：複数カーネルMMDを用いるIRM-MMDと、MLP識別器を用いるIRM-ACDMであり、両者ともIRMとCDMの正則化を統合する。
• CMNIST+において、ERM、IRM、EIIL、およびオラクルベースラインと比較し、三角形スループットの強さ（ρ ∈ {0.8, 0.85, 0.9}）を変化させた条件下で評価した。

実験結果

リサーチクエスチョン

• RQ1 スループット相関が不変相関よりも強い場合に、なぜIRMはOOD予測で失敗するのか？
• RQ2 DNNは、経験的リスクを最小化しながらIRM正則化を回避する非重複でドメイン特化の表現を学習できるか？
• RQ3 IRMと条件付き分布マッチング（CDM）を組み合わせることで、強い三角形スループット下でのIRMの失敗を緩和できるか？
• RQ4 この設定において、CDM単体でOOD一般化問題を解決できるか、それともIRMが必要か？
• RQ5 トレーニングプロセスにドメインラベルを明示的に含めることで、ソフトドメインラベルを推論する手法と比較して、不変特徴の学習にどのような影響を与えるか？

主な発見

• 強い三角形スループット（ρ > 0.75）下では、IRMの性能が著しく低下し、CMNIST+においてρ = 0.85でテスト精度が58.47%にまで低下する。
• IRM-ACDMはρ = 0.8で70.15%のテスト精度を達成し、IRM（58.00%）より12%向上し、CDMとIRMの組み合わせの有効性を示している。
• IRM-MMDはρ = 0.8で67.08%の精度を示し、IRMより9%向上し、CDMがIRMのロバスト性を高めることを確認した。
• CDM単体（ACDMまたはMMD）では高いOOD精度を達成できず、ACDMではρ = 0.8でたったの30.41%にとどまり、CDMはIRMなしでは不十分であることが示された。
• ソフトドメインラベルを学習するEIILはIRMを下回り、不変表現学習において明示的なドメイン監視が、暗黙のドメインモデリングよりも有効であることを示唆した。
• オラクルモデル（グレースケール画像を用い、スループット特徴を回避）はρ = 0.85で73.49%の精度を達成し、提案手法（70.15%）が最適性能に非常に近いことが示された。