[論文レビュー] When is invariance useful in an Out-of-Distribution Generalization problem ?

Masanori Koyama, Shoichiro Yamaguchi|arXiv (Cornell University)|Aug 4, 2020

Domain Adaptation and Few-Shot Learning参考文献 50被引用数 30

ひとこと要約

本論文は、OOD一般化を不変予測子を見つけることとして定式化できる可制御性条件を導入し、Inter-environment Gradient Alignment (IGA) を用いた Maximal Invariant Predictor (MIP) を提案し、MNISTベースのベンチマークでの実験を行う。

ABSTRACT

The goal of Out-of-Distribution (OOD) generalization problem is to train a predictor that generalizes on all environments. Popular approaches in this field use the hypothesis that such a predictor shall be an extit{invariant predictor} that captures the mechanism that remains constant across environments. While these approaches have been experimentally successful in various case studies, there is still much room for the theoretical validation of this hypothesis. This paper presents a new set of theoretical conditions necessary for an invariant predictor to achieve the OOD optimality. Our theory not only applies to non-linear cases, but also generalizes the necessary condition used in \citet{rojas2018invariant}. We also derive Inter Gradient Alignment algorithm from our theory and demonstrate its competitiveness on MNIST-derived benchmark datasets as well as on two of the three extit{Invariance Unit Tests} proposed by \citet{aubinlinear}.

研究の動機と目的

• OOD一般化問題を動機づけ、不変性のみを重視するアプローチを批判する。
• 不変予測子がOOD最適性を導く可制御性条件を形式化する。
• 固定された因果変数部分集合を超えた非線形設定へ不変性理論を拡張する。
• MIP に触発された実用的アルゴリズム (IGA) を導入し、不変予測子を学習する。
• MNIST由来のベンチマークと不変性ユニットテストで実証的に検証する。

提案手法

• P(Y|h(X),E)=P(Y|h(X)) を満たす不変特徴 h(X) を定義する。
• 不変性条件を提案する: for all E in supp(E) there exists a modified environment with P(Y|X,~E)=P(Y|h(X),~E).
• もしそのような h が存在すれば、E[Y|h(X)] は OOD 問題を解く。
• 情報理論的目的として Maximal Invariant Predictor (MIP) を導入: invariance 制約の下で I(Y;h(X)) を最大化。
• 環境を跨いで P(Y|h(X),E) をタスク全体のパラメータ theta と環境条件付き更新で表現、MAML に触発。
• 環境間勾配整合性を導出する Inter-environment Gradient Alignment (IGA) 目的を導出し、勾配を環境間で揃えて不変性を課す（O(alpha^2) 項まで）。
• Identity を知らずに複数の環境で訓練することを議論し、 nonlinear 設定での IRM との関連を IGA として述べる。

実験結果

リサーチクエスチョン

• RQ1 理論的条件の下で、OOD一般化問題を不変性問題として再定式化できるのはいつか？
• RQ2 因果サブ構造が観測可能な固定サブセットではない非線形設定において、不変予測子は OOD 目標を解決できるか？
• RQ3 明示的な因果グラフなしに、そのような予測子を学習する実用的な目的関数（MIP）とアルゴリズム（IGA）をどのように定式化できるか？
• RQ4 IGA のような不変学習法は、線形モデルを超えるベンチマークタスクで競争力のある OOD 性能を達成するか？

主な発見

• 可制御性条件は、非線形モデルでも不変予測子がOOD最適となることを保証する。
• 不変性を情報最大化の目的と結びつける Maximal Invariant Predictor (MIP) 目的が提案された。
• Explicit causal structureなしで MIP フレームワークの下でモデルを訓練するための Inter-environment Gradient Alignment (IGA) アルゴリズムが導出された。
• IGA は環境特有の勾配を揃え、不変リスク最小化 (IRM) に密接に関連しつつ非線形設定にも適用可能な実用的手法を提供する。
• 実証結果は、ERM および IRM と比較して invariance unit tests および Colored MNIST ベンチマークで IGA の競争力のある性能を示す。