[论文解读] Invariant Risk Minimization Games

Kartik Ahuja, Karthikeyan Shanmugam+2 more|arXiv (Cornell University)|Feb 11, 2020

Gaussian Processes and Bayesian Inference参考文献 35被引用 31

一句话总结

本文将不变性风险最小化重新表述为环境之间的纳什均衡问题，提出一个集合博弈（EIRM），其均衡对应不变预测，并展示一个基于 BRD 的训练算法，具有有竞争力的性能和更低的方差。

ABSTRACT

The standard risk minimization paradigm of machine learning is brittle when operating in environments whose test distributions are different from the training distribution due to spurious correlations. Training on data from many environments and finding invariant predictors reduces the effect of spurious features by concentrating models on features that have a causal relationship with the outcome. In this work, we pose such invariant risk minimization as finding the Nash equilibrium of an ensemble game among several environments. By doing so, we develop a simple training algorithm that uses best response dynamics and, in our experiments, yields similar or better empirical accuracy with much lower variance than the challenging bi-level optimization problem of Arjovsky et al. (2019). One key theoretical contribution is showing that the set of Nash equilibria for the proposed game are equivalent to the set of invariant predictors for any finite number of environments, even with nonlinear classifiers and transformations. As a result, our method also retains the generalization guarantees to a large set of environments shown in Arjovsky et al. (2019). The proposed algorithm adds to the collection of successful game-theoretic machine learning algorithms such as generative adversarial networks.

研究动机与目标

• 通过利用环境之间的不变性来应对分布漂移，推动稳健预测。
• 将 IRM 形式化为一个多环境集合博弈，以识别不变预测。
• 提出一个实用的最优反应动力学算法来在 EIRM 博弈中计算纳什均衡。
• 在较弱假设下证明纳什均衡与不变预测集合之间的理论等价性。
• 在合成和真实数据集上相对于 IRM 与 ERM 基线，展示在准确性和方差方面的实证提升。

提出的方法

• 定义一个集成分类器 w^av，将环境特定分类器 w^e 汇聚。
• 将一个博弈建立起来，使每个环境通过对 w^e 和共享表示 Phi 的 BRD 最小化其风险。
• 证明等价性：EIRM 博弈的 NE 对应于跨环境的不变预测（定理1）。
• 提出两种训练模式：固定 Phi（F-IRM）和学习 Phi（V-IRM），分别对 w^e 和 Phi 进行 BRD 更新。
• 提供算法（Algorithm 1），使用带有周期性 Phi 更新的 BRD 以及逐环境的 SGD 步骤。
• 在仿射闭包（假设1）和线性/希尔伯特函数类（定理3）下讨论 NE 的存在性。

实验结果

研究问题

• RQ1 多环境中是否可以将不变预测表征为多环境博弈的纳什均衡？
• RQ2 基于 BRD 的训练机制是否收敛到不变预测，在什么条件下存在 NE？
• RQ3 EIRM 的 NE 与 IRM 的不变预测集之间有什么关系？
• RQ4 固定或学习表示 Phi 是否会影响恢复不变预测的能力？
• RQ5 所提出的方法是否能推广到非线性分类器，并在分布漂移下提供鲁棒性能？

主要发现

• 集合博弈得到的预测集合与跨环境的不变预测相同（定理1和推论1）。
• 基于 BRD 的训练，无论是固定表示还是学习表示，都能达到与以往 IRM 相当或更好的准确性且方差更低（如 Colored MNIST 结果）。
• 该方法可适用于非线性分类器，不局限于线性 Phi 或 w，同時保持不变性保证。
• 固定 Phi（恒等）并求解 EIRM 博弈即可恢复具有有界 L^p 范数的不变预测（定理2）。
• 在线性模型下，凸、连续损失存在纯纳什均衡；在更广义的模型中，存在混合均衡（定理3）。
• 实证结果表明 F-IRM 和 V-IRM 变体在鲁棒性和稳定性方面常常优于标准 IRM 与 ERM 基线。