[論文レビュー] Does Invariant Risk Minimization Capture Invariance?

Pritish Kamath, Akilesh Tangella+2 more|arXiv (Cornell University)|Jan 4, 2021

Bayesian Modeling and Causal Inference参考文献 8被引用数 23

ひとこと要約

この論文は、無限のデータを伴う単純で理想的な設定ですら、線形版の不変リスク最小化（IRMv1）が真の不変性を捉えられず、標準的な経験的リスク最小化（ERM）よりも悪化する分布外一般化を示す可能性があることを示している。著者らは、理論的IRMsとその実装の間の根本的なギャップを特定し、非不変の損失関数とサンプリングの不安定性により、IRMv1が最適でない予測子に収束する可能性があることを示している。

ABSTRACT

We show that the Invariant Risk Minimization (IRM) formulation of Arjovsky et al. (2019) can fail to capture "natural" invariances, at least when used in its practical "linear" form, and even on very simple problems which directly follow the motivating examples for IRM. This can lead to worse generalization on new environments, even when compared to unconstrained ERM. The issue stems from a significant gap between the linear variant (as in their concrete method IRMv1) and the full non-linear IRM formulation. Additionally, even when capturing the "right" invariances, we show that it is possible for IRM to learn a sub-optimal predictor, due to the loss function not being invariant across environments. The issues arise even when measuring invariance on the population distributions, but are exacerbated by the fact that IRM is extremely fragile to sampling.

研究の動機と目的

• 実用的な線形形式の不変リスク最小化（IRMv1）が、データ分布において真の不変性を信頼性を持って捉えられるかどうかを調査すること。
• IRMv1が分布外の頑健性を向上させることを目的としているにもかかわらず、なぜ不制限のERMよりも一般化性能が悪くなることがあるかを分析すること。
• 条件付き分布の不変性が満たされている場合でも、環境間での損失の不変性が予測子の品質に与える影響を検討すること。
• 少数の訓練環境から学習された不変予測子が、より広範なターゲット環境に一般化するための条件を調査すること。
• 有限標本推定がIRMの性能に与える影響、特にデータサンプリングノイズへの感受性を評価すること。

提案手法

• すべての環境で最適となる表現 φ と予測子 w を求めるバイレベル最適化問題としてIRMフレームワークを形式化し、w ∘ φ が最適であることを目的とする。
• カラーモナコの問題を抽象化するため、X = {0,1}² の簡略化された二値入力空間を導入し、不変性と一般化の解析的考察を可能にする。
• 母集団レベルのIRM解（IRM_S）と、予測子を線形に制限した実用的IRMs（IRMv1）を比較する。
• λ（正則化強度）と標本サイズ n の増加に伴うIRMv1の挙動を分析し、有限標本と母集団の挙動の乖離を示す。
• 近似的に最適性制約を許容するε緩和版のIRMを導入し、より頑健な実用的実装への道筋を提案する。
• 制御された誤った相関を持つ合成環境を用いて、IRMv1が分布外データでERMよりも悪い予測子を選択する失敗事例を示す。

実験結果

リサーチクエスチョン

• RQ1 無限の環境で学習し、母集団分布を完全に把握している状況でも、IRMv1は真に不変な予測子を学習できないことがあるか？
• RQ2 条件付き不変性を満たしているにもかかわらず、なぜIRMは分布外一般化性能が悪い不変予測子を選ぶことがあるのか？
• RQ3 損失関数が環境間で不変でない場合、学習された予測子の品質にどの程度の影響を与えるか？
• RQ4 訓練環境集合 E_tr にどのような構造的仮定を置くと、不変予測子がより広範なターゲット環境に一般化可能になるか？
• RQ5 有限標本推定は、特にサンプリングノイズの存在下で、IRMおよびIRMv1の安定性と性能にどのように影響を与えるか？

主な発見

• IRMv1は、無限の訓練環境と母集団分布の完全な知識がある状況でも、予測子への線形制約のため、真に不変な予測子を学習できないことが明確に示された。
• 一部のケースでは、IRMv1がERMよりも分布外環境での一般化性能が悪くなる予測子を学習するため、IRMの核心的動機と矛盾する。
• 条件付き分布 P(Y|φ(X)) が環境間で不変であっても、損失 L(w∘φ) が不変でない場合、IRMは劣悪な予測子を好む。
• IRMv1はサンプリングノイズに極めて感受性が高く、訓練環境のわずかな摂動ですら、母集団レベルの解が非自明であっても、自明な0予測子に収束させることがある。
• 理論的IRMの定式化とIRMv1との間には顕著なギャップがあり、λ を標本サイズに適切な割合で増加させない限り、IRMv1は母集団レベルのIRM_S解に収束しない。
• ε緩和版のIRMは、より頑健な実用的アルゴリズムへの道筋として提案されるが、実装の面では未解決の課題のままである。