[論文レビュー] An Empirical Study of Invariant Risk Minimization

Yo Joong Choe, Jiyeon Ham+1 more|arXiv (Cornell University)|Apr 10, 2020

Risk and Portfolio Optimization参考文献 14被引用数 21

ひとこと要約

この論文は、複数の訓練環境にわたる予測子の不変性を学ぶことで分布外一般化を向上させる枠組みである不変リスク最小化（IRMv1）の実証的評価を行う。環境の差が大きい場合、IRMv1は分布外性能を向上させ、近似的に不変な関係性のもとで近似的に不変な表現を学習し、誤ったトークン-ラベル相関がある自然言語分類タスクにも一般化できることを示している。

ABSTRACT

Invariant risk minimization (IRM) (Arjovsky et al., 2019) is a recently proposed framework designed for learning predictors that are invariant to spurious correlations across different training environments. Yet, despite its theoretical justifications, IRM has not been extensively tested across various settings. In an attempt to gain a better understanding of the framework, we empirically investigate several research questions using IRMv1, which is the first practical algorithm proposed to approximately solve IRM. By extending the ColoredMNIST experiment in different ways, we find that IRMv1 (i) performs better as the spurious correlation varies more widely between training environments, (ii) learns an approximately invariant predictor when the underlying relationship is approximately invariant, and (iii) can be extended to an analogous setting for text classification.

研究の動機と目的

• 異なる訓練環境において分布外（OOD）一般化の有効性を実証的に評価すること。
• 因果関係が近似的に不変である場合に、IRMv1が近似的に不変な予測子を学習できるかどうかを調査すること。
• 誤ったトークン-ラベル相関を持つテキストベースの類似ベンチマーク（ColoredMNISTのアナログ）を構築することで、IRMv1を自然言語処理に拡張すること。
• 制御された誤った相関設定下で、視覚およびテキスト分類においてERMおよびベースラインと比較してIRMv1の性能を評価すること。
• 再現可能性および多環境設定におけるIRMに関する今後の研究を支援するため、オープンソースコードを提供すること。

提案手法

• 複数の訓練環境で誤った相関（色-数字の関連性）の度合いを変化させることで、ColoredMNISTベンチマークを拡張した。
• 実用的なアルゴリズムとして、経験的リスクに加えて勾配ペナルティ項を最小化するIRMv1を採用した。
• IRMv1における勾配ペナルティ項は、分類器の重みがすべての環境で最適であるという条件を近似し、不変性を促進する。
• 句読点がラベルと相関する特徴として使われるPunctuatedSST-2を用いて、同じフレームワークをテキスト分類タスクに適用した。
• NLPにおけるIRMv1ペナルティの影響を隔離するために、平均化された単語埋め込みを用いたシンプルなbag-of-wordsモデルを採用した。
• ハイパーパramータサーチを実施し、訓練環境からのホールドアウトセットおよび逆転した誤った相関を持つ分布外環境での評価を実施した。

実験結果

リサーチクエスチョン

• RQ1 訓練環境間での誤った相関の多様性が、IRMv1の分布外一般化性能にどのように影響するか？
• RQ2 データ生成プロセスが近似的に不変である場合に、IRMv1は近似的に不変な予測子を学習できるか？
• RQ3 誤ったトークン-ラベル相関がある自然言語分類タスクに、IRMv1フレームワークを成功裏に拡張できるか？
• RQ4 視覚およびテキストベンチマークにおいて、IRMv1はERMおよびオラクルベースラインと比較して分布外精度で優れているか？
• RQ5 誤った相関の強度と方向を変化させた場合、多環境設定におけるモデルの一般化にどのような影響を与えるか？

主な発見

• IRMv1の分布外一般化性能は、訓練環境間での誤った相関の差が広くなるほど向上する。
• データ生成プロセスが近似的に不変である場合、IRMv1は一貫した性能を示すことで、近似的に不変な予測子を学習していることが裏付けられた。
• PunctuatedSST-2テキスト分類ベンチマークでは、IRMv1が61.4%の分布外精度を達成し、オラクルモデルの61.5%にほぼ等しい性能を示した。
• ERMは誤った相関に依存するため、分布外データでは性能が著しく低く（30.4%の精度）、一方IRMv1は不変な表現を学習することでこれを緩和した。
• IRMv1ペナルティは、視覚およびテキストタスクの両方で誤った特徴への依存を効果的に低減し、画像分類を超えて一般化可能であることが示された。
• 結果から、IRMv1は誤った相関が変動する現実世界のデータセットにおける分布外一般化を向上させる有効なアプローチであると考えられる。