[論文レビュー] Exchanging Lessons Between Algorithmic Fairness and Domain Generalization

Elliot Creager, Joern-Henrik Jacobsen+1 more|arXiv (Cornell University)|May 4, 2021

Domain Adaptation and Few-Shot Learning被引用数 9

ひとこと要約

この論文は、グループラベルが不要な公平性技術にインspiredされた、事前に定義された環境パーティションを必要としない新しいドメイン一般化手法を提案することで、アルゴリズムの公平性とドメイン一般化の間の双方向的つながりを確立する。これにより、最悪ケース性能の向上が可能となり、初めてグループ充足性（group-sufficiency）という公平性基準を直接最適化できる。従来の不変リスク最小化（IRMv1）よりも優れた一般化性能を示す。

ABSTRACT

Standard learning approaches are designed to perform well on average for the data distribution available at training time. Developing learning approaches that are not overly to the training distribution is central to research on domain- or out-of-distribution generalization, robust optimization and fairness. In this work we focus on links between research on domain generalization and algorithmic fairness---where performance under a distinct but related test distributions is studied---and show how the two fields can be mutually beneficial. While domain generalization methods typically rely on knowledge of disjoint domains or environments, sensitive label information indicating which demographic groups are at risk of discrimination is often used in the fairness literature. Drawing inspiration from recent fairness approaches that improve worst-case performance without knowledge of groups, we propose a novel domain generalization method that handles the more realistic scenario where environment partitions are not provided. We then show theoretically and empirically how different partitioning schemes can lead to increased or decreased generalization performance, enabling us to outperform Invariant Risk Minimization with handcrafted environments in multiple cases. We also show how a re-interpretation of IRMv1 allows us for the first time to directly optimize a common fairness criterion, group-sufficiency, and thereby improve performance on a fair prediction task.

研究の動機と目的

• 分布を超えた頑健な一般化という共通の課題を同定することで、アルゴリズムの公平性とドメイン一般化を統合すること。
• 実世界の応用において一般的な制限である、ドメイン一般化における環境パーティションの入手不可能な現実的状況に対処すること。
• IRMv1の再解釈を通じて、グループ充足性という公平性基準を直接最適化可能にすること。
• 異なるパーティショニング方式が一般化性能に与える影響を明らかにし、頑健なモデル設計に関する新たな知見を提供すること。

提案手法

• グループラベルに依存しない公平性技術を基に、環境パーティションの明示的知識を必要としない、最悪ケース性能の向上を図るドメイン一般化手法を提案する。
• 不変リスク最小化（IRMv1）を再構築し、公平性指標の一つであるグループ充足性を直接最適化可能にすることで、公平性と一般化の両方の向上を実現する。
• 環境間での不変性を促進する損失関数を採用するとともに、再解釈されたIRMv1の目的関数を用いて公平性制約を統合する。
• 手動で作成したおよび学習で得た両方の環境パーティションを用いて、複数のデータセットで性能を評価し、一般化の頑健性を比較する。
• パーティショニング方式の違いがモデルの一般化に与える影響を分析し、性能が向上または低下する条件を同定する。

実験結果

リサーチクエスチョン

• RQ1 グループラベル依存を避ける公平性にインspiredされた技術を、環境パーティションが不明な状況でもドメイン一般化の性能向上に適応できるか。
• RQ2 ドメイン一般化における異なる環境パーティショニング方式が、一般化性能に与える影響は何か。
• RQ3 IRMv1を再解釈することで、グループ充足性のような標準的な公平性基準を直接最適化できるか。
• RQ4 手動で環境を定義した場合の標準IRMv1と比較して、提案手法がどの状況で優れるか。
• RQ5 公平性とドメイン一般化の相互作用は、より頑健で公平な機械学習モデルの設計にどのように寄与するか。

主な発見

• 提案手法は、事前に定義された環境パーティションが入手不可な状況下でも、複数のデータセットにおいて標準IRMv1よりも優れた一般化性能を達成した。
• 異なるパーティショニング方式が一般化性能に顕著な影響を与えることが判明し、一部の設定ではベースラインを著しく上回った。
• IRMv1の再解釈により、重要な公平性指標であるグループ充足性を直接最適化可能となり、公平な予測タスクにおける性能向上が実現した。
• この手法は、分布シフトに対する頑健性が公平性に配慮した設計によって向上することを実証し、公平性とドメイン一般化の相互利益を裏付けた。
• 実験結果から、環境パーティションが入手不可または不正確な状況では、提案手法がIRMv1を一貫して上回ることが示された。