[論文レビュー] Invariant Risk Minimization Games

Kartik Ahuja, Karthikeyan Shanmugam+2 more|arXiv (Cornell University)|Feb 11, 2020

Gaussian Processes and Bayesian Inference参考文献 35被引用数 31

ひとこと要約

本論文は不変リスク最小化を環境間のナッシュ均衡問題として再定義し、アンサンブルゲーム（EIRM）の均衡が不変予測子に対応することを示し、BRDベースの学習アルゴリズムが競争力のある性能と低い分散を達成することを示す。

ABSTRACT

The standard risk minimization paradigm of machine learning is brittle when operating in environments whose test distributions are different from the training distribution due to spurious correlations. Training on data from many environments and finding invariant predictors reduces the effect of spurious features by concentrating models on features that have a causal relationship with the outcome. In this work, we pose such invariant risk minimization as finding the Nash equilibrium of an ensemble game among several environments. By doing so, we develop a simple training algorithm that uses best response dynamics and, in our experiments, yields similar or better empirical accuracy with much lower variance than the challenging bi-level optimization problem of Arjovsky et al. (2019). One key theoretical contribution is showing that the set of Nash equilibria for the proposed game are equivalent to the set of invariant predictors for any finite number of environments, even with nonlinear classifiers and transformations. As a result, our method also retains the generalization guarantees to a large set of environments shown in Arjovsky et al. (2019). The proposed algorithm adds to the collection of successful game-theoretic machine learning algorithms such as generative adversarial networks.

研究の動機と目的

• 環境間の不変性を利用して分布シフト下での堅牢な予測を動機づける。
• IRMを複数環境のアンサンブルゲームとして定式化し、不変予測子を特定する。
• EIRMゲームのナッシュ均衡を計算するための実用的なベストレスポンスダイナミクス（BRD）アルゴリズムを提案する。
• 穏当な仮定の下でナッシュ均衡と不変予測子との理論的同値性を証明する。
• 合成データおよび実データセットにおいて、IRMおよびERMベースラインと比較して精度と分散の実証的向上を示す。

提案手法

• 環境ごとの分類器 w^e を集約するアンサンブル分類器 w^av を定義する。
• 各環境が w^e と共有表現 Phi に関して BRD によってリスクを最小化するゲームを定式化する。
• EIRM ゲームの NE が環境間の不変予測子に対応することを示す（定理1）。
• 固定された Phi（F-IRM）と学習された Phi（V-IRM）の2つの学習 regime を提案し、w^e と Phi の BRD 更新を行う。
• Phi の周期的更新と環境ごとの SGD ステップを用いた BRD を用いるアルゴリズム（アルゴリズム1）を提供する。
• アファイン閉包性（仮定1）と線形/ヒルベルト的関数クラスの下での NE の存在を議論する（定理3）。

実験結果

リサーチクエスチョン

• RQ1 複数環境にまたがる不変予測子は、多環境ゲームにおけるナッシュ均衡として特徴づけられるか。
• RQ2 BRDベースの学習 regime は不変予測子へ収束するか、どのような条件で NE が存在するか。
• RQ3 EIRM の NE と IRM 由来の不変予測子集合の関係は何か。
• RQ4 表現 Phi を固定するか学習するかは、不変予測子の回復能力に影響を与えるか。
• RQ5 提案手法は非線形分類器にも一般化し、分布シフト下で堅牢な性能を提供するか。

主な発見

• アンサンブルゲームは、環境全体での不変予測子と同一の予測子集合を生み出す（定理1および補題1）。
• 固定表現または学習表現のいずれを用いても、BRDベースの学習は従来のIRMより精度が同等以上で、分散が小さい（例: Colored MNIST の結果）。
• 本手法は、線形 Phi や w に限定されず、非線形分類器にも適用可能で、不変性保証を保持する。
• Phi（恒等写像）を固定してEIRMゲームを解くことは、不変予測子を L^pノルムが有界になるように回復するのに十分である（定理2）。
• 線形モデルでは凸で連続な損失関数の下で純粋なナッシュ均衡が存在する；より広いモデルでは混合均衡が存在する（定理3）。
• 実データに基づく結果は、F-IRM および V-IRM の変種が、データセット全体で頑健性と安定性の点で標準のIRMおよびERMベースラインをしばしば上回ることを示している。