[论文解读] Environment Inference for Invariant Learning

Elliot Creager, Jörn-Henrik Jacobsen+1 more|arXiv (Cornell University)|Oct 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 52被引用 10

一句话总结

该论文提出环境推理不变学习（EIIL）框架，通过利用参考模型的预测偏差，从数据中自动推断最优环境，实现在无先验环境标签情况下的不变学习。EIIL在Waterbirds数据集上将最差组准确率提升18%，在CMNIST和CivilComments数据集上优于ERM和不变学习基线方法，同时通过改进校准和子组充分性提升了公平性。

ABSTRACT

Learning models that gracefully handle distribution shifts is central to research on domain generalization, robust optimization, and fairness. A promising formulation is domain-invariant learning, which identifies the key issue of learning which features are domain-specific versus domain-invariant. An important assumption in this area is that the training examples are partitioned into "domains" or "environments". Our focus is on the more common setting where such partitions are not provided. We propose EIIL, a general framework for domain-invariant learning that incorporates Environment Inference to directly infer partitions that are maximally informative for downstream Invariant Learning. We show that EIIL outperforms invariant learning methods on the CMNIST benchmark without using environment labels, and significantly outperforms ERM on worst-group performance in the Waterbirds and CivilComments datasets. Finally, we establish connections between EIIL and algorithmic fairness, which enables EIIL to improve accuracy and calibration in a fair prediction problem.

研究动机与目标

• 解决训练过程中缺乏环境标签时的域泛化挑战。
• 开发一种方法，直接从训练数据中利用参考模型的偏差发现有意义且信息丰富的环境划分。
• 通过在无显式环境标注的情况下实现不变学习，提升分布外泛化能力和公平性。
• 建立环境推理与算法公平性之间的联系，特别是在子组校准和鲁棒性方面。

提出的方法

• EIIL使用预训练的经验风险最小化（ERM）模型识别预测误差和偏差，揭示数据中的虚假相关性。
• 其构建了环境推理目标，最大化组间差异性，同时对软环境分配具有可微性。
• 该方法通过基于梯度的优化对软环境分配进行搜索，以发现对不变学习最具信息量的划分。
• 环境推理完成后，EIIL在推断出的环境中训练下游不变学习器（例如使用IRMv1），以学习域不变表征。
• 该框架隐式地对推断出的最坏情况环境进行校准正则化，提升子组充分性，而无需使用敏感属性。
• 它利用基于环境规模的样本加权，并施加不变性惩罚，以确保在推断组之间的鲁棒性。

实验结果

研究问题

• RQ1 当缺乏环境标签时，能否通过模型偏差的环境推理来提升分布外泛化能力？
• RQ2 EIIL推断出的环境划分在基准数据集上的性能与人工指定的环境相比如何？
• RQ3 环境推理在多大程度上能增强子组鲁棒预测中的公平性与校准性？
• RQ4 EIIL中的哪些组件——环境发现还是不变性正则化——对性能提升至关重要？

主要发现

• 与标准ERM相比，EIIL在Waterbirds数据集上将最差组测试准确率提升了18%，且未使用环境标签。
• 在CMNIST基准上，EIIL优于依赖人工提供环境标签的不变学习方法。
• EIIL在Adult-Confounded数据集上显著改善了子组校准与充分性，优于使用随机环境的ARL与IRM方法。
• 消融研究证实，环境发现与不变性正则化均不可或缺，移除任一组件均导致测试准确率急剧下降。
• EIIL的性能优于使用随机环境分配的IRM，证明了发现最坏情况环境的价值。
• 该方法通过隐式学习推断环境中的一致性，在未访问敏感属性的情况下，提升了公平预测任务中的准确率与校准性。