[論文レビュー] Environment Inference for Invariant Learning

Elliot Creager, Jörn-Henrik Jacobsen+1 more|arXiv (Cornell University)|Oct 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 52被引用数 10

ひとこと要約

本稿では、参照モデルの予測バイアスを用いてデータから最適な環境を自動的に推定する、不変学習のための環境推定（EIIL）フレームワークを提案する。環境ラベルが事前に与えられていない状況でも不変学習を可能にし、Waterbirdsではworst-group精度を18%向上させ、CMNISTおよびCivilCommentsにおいてもERMおよび不変学習のベースラインを上回る。さらに、補正精度とサブグループの十分性の向上により、公平性の向上を実現した。

ABSTRACT

Learning models that gracefully handle distribution shifts is central to research on domain generalization, robust optimization, and fairness. A promising formulation is domain-invariant learning, which identifies the key issue of learning which features are domain-specific versus domain-invariant. An important assumption in this area is that the training examples are partitioned into "domains" or "environments". Our focus is on the more common setting where such partitions are not provided. We propose EIIL, a general framework for domain-invariant learning that incorporates Environment Inference to directly infer partitions that are maximally informative for downstream Invariant Learning. We show that EIIL outperforms invariant learning methods on the CMNIST benchmark without using environment labels, and significantly outperforms ERM on worst-group performance in the Waterbirds and CivilComments datasets. Finally, we establish connections between EIIL and algorithmic fairness, which enables EIIL to improve accuracy and calibration in a fair prediction problem.

研究の動機と目的

• 訓練時に環境ラベルが利用可能でない状況におけるドメイン一般化の課題に対処すること。
• 参照モデルのバイアスを用いて、訓練データから意味的で情報量の多い環境パーティションを直接同定する手法を開発すること。
• 明示的な環境ラベルが存在しない状況でも、不変学習を可能にすることで、分布外一般化性と公平性を向上させること。
• 環境推定とアルゴリズム的公平性（特にサブグループの補正と頑健性）との間の関係を確立すること。

提案手法

• EIILは事前学習済みの経験的リスク最小化（ERM）モデルを用い、データに内在する誤りやバイアスを特定することで、すなわち誤った相関関係を明らかにする。
• ソフトな環境割り当てに関して微分可能であるとともに、環境間の変動性を最大化する環境推定目的を定式化する。
• 勾配に基づく最適化をソフトな環境割り当てに対して行い、不変学習に最も情報を与えるパーティションを同定する。
• 環境推定が終了した後、EIILは推定された環境上で下流の不変学習器（例：IRMv1）を訓練し、ドメイン不変表現を学習する。
• フレームワークは、推定された最悪ケースの環境において補正を暗黙的に正則化することで、感受性属性を用いずともサブグループの十分性を向上させる。
• 環境サイズに基づく例ごとの重み付けと不変性ペナルティを適用することで、推定されたグループ全体にわたる頑健性を確保する。

実験結果

リサーチクエスチョン

• RQ1 環境ラベルが存在しない状況でも、モデルのバイアスからの環境推定が分布外一般化性を向上させ得るか？
• RQ2 EIILが推定する環境パーティションは、手動で指定された環境と比較して、ベンチマークデータセット上での性能にどのように影響するか？
• RQ3 環境推定は、サブグループに頑健な予測における公平性と補正性をどの程度向上させ得るか？
• RQ4 EIILの性能向上に寄与する要因として、環境発見と不変性正則化のどちらが本質的か？

主な発見

• Waterbirdsデータセットでは、環境ラベルを一切使用しない状況で、標準的なERMと比較してworst-groupテスト精度を18%向上させた。
• CMNISTベンチマークでは、手動で提供された環境ラベルに依存する不変学習手法を上回った。
• Adult-Confoundedデータセットでは、サブグループの補正性と十分性が顕著に向上し、ARLやランダム環境を用いたIRMを上回った。
• アブレーションスタディの結果、環境発見と不変性正則化の両方が不可欠であることが確認され、いずれかを除去するとテスト精度が急激に低下した。
• ランダムな環境割り当てを用いたIRMよりも、EIILが優れた性能を示した。これは、最悪ケースの環境を発見することが価値あるものであることを示している。
• 感受性属性にアクセスできない状況でも、推定された環境間での不変性を暗黙的に学習することで、精度と補正性の両方を向上させた。