[論文レビュー] Chasing Fairness Under Distribution Shift: A Model Weight Perturbation Approach

Zhimeng Jiang, Xiaotian Han+5 more|arXiv (Cornell University)|Mar 6, 2023

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

本稿では、グループ内での最悪ケースのモデル重み摂動に対するロバスト性を強制することで、分布シフト下でも公平性を保証するモデル重み摂動アプローチ、ロバスト公平性正則化（RFR）を提案する。この手法は、合成的および実世界の分布シフトにおいて、ベースラインと比較して優れた公平性と精度のトレードオフを達成しており、分布シフトとモデル重み摂動の理論的同等性に裏打ちされている。

ABSTRACT

Fairness in machine learning has attracted increasing attention in recent years. The fairness methods improving algorithmic fairness for in-distribution data may not perform well under distribution shifts. In this paper, we first theoretically demonstrate the inherent connection between distribution shift, data perturbation, and model weight perturbation. Subsequently, we analyze the sufficient conditions to guarantee fairness (i.e., low demographic parity) for the target dataset, including fairness for the source dataset, and low prediction difference between the source and target datasets for each sensitive attribute group. Motivated by these sufficient conditions, we propose robust fairness regularization (RFR) by considering the worst case within the model weight perturbation ball for each sensitive attribute group. We evaluate the effectiveness of our proposed RFR algorithm on synthetic and real distribution shifts across various datasets. Experimental results demonstrate that RFR achieves better fairness-accuracy trade-off performance compared with several baselines. The source code is available at \url{https://github.com/zhimengj0326/RFR_NeurIPS23}.

研究の動機と目的

• 医療や刑事司法など、高リスクな応用分野における機械学習モデルの公平性低下という重要な課題に対処すること。
• 損失値の観点から、分布シフト、データ摂動、およびモデル重み摂動の間の理論的同等性を確立すること。
• ソース分布からターゲット分布への公平性の転送可能性を保証する十分条件を同定すること。特に、感受性グループ間の予測差に注目する。
• 各感受性属性グループにおける最悪ケースのモデル重み摂動に対して公平性を明示的に強制する、ロバスト公平性正則化（RFR）手法を開発すること。
• デプロイ後におけるデータ分布の変化が生じる実世界の環境において、公平なモデルの実用的導入を可能にすること。

提案手法

• 任意のモデルアーキテクチャおよび損失関数に対して、損失の同等性を示すことにより、分布シフトがモデル重み摂動と同等であることを理論的に証明する。
• RFRを、各感受性グループ内の最悪ケースのモデル重み摂動を最適化する正則化手法として提案し、ロバストな公平性を保証する。
• RFRにおける内側の最大化問題を一次のテイラー展開で近似し、1回の更新あたり2回の順方向および逆方向伝搬で効率的な計算を可能にする。
• RFR損失を学習目的関数に統合し、分布シフト下での精度と公平性のロバスト性を同時に最適化する。
• 分布シフトがモデル重みの変動を通じて公平性に与える影響を明示的にモデル化する摂動に基づく定式化を採用する。
• 多様なデータセットに合成的および実世界の分布シフトを適用し、ロバスト性を検証する。

実験結果

リサーチクエスチョン

• RQ1 損失の同等性という観点から、分布シフトをモデル重み摂動と正式に結びつけることができるか？
• RQ2 分布シフト下で、ソース分布からターゲット分布への公平性の転送可能性を保証する十分条件は何か？
• RQ3 各感受性グループ内での最悪ケースのモデル重み摂動を最適化することで、ロバストな公平性を達成できるか？
• RQ4 提案手法RFRは、分布シフト下での公平性と精度のトレードオフにおいて、既存の公平性ベースラインと比較してどのように優れているか？
• RQ5 RFR手法は、合成的および実世界の両方の分布シフトにおいて、公平性のパフォーマンスを維持できるか？

主な発見

• 本稿では、分布シフトとモデル重み摂動の間の理論的同等性を確立し、任意の分布シフトが損失値を保持するモデル重み摂動として表現可能であることを示している。
• RFRは、合成的および実世界の両方の分布シフトを伴う多様なデータセットにおいて、複数のベースラインと比較して優れた公平性と精度のトレードオフを達成している。
• RFRは、ソースモデルがすでに公平であっても、分布シフト下で低いデモグラフィックパラメータ差を効果的に維持している。
• 実験では、ハイパーパrameter λ が公平性と精度のトレードオフを効果的に制御でき、最適なパフォーマンスが中程度の λ 値で達成されていることが示された。
• RFRにおける内側の最大化問題の一次近似により、1回の更新あたり2回の順方向および逆方向伝搬で十分な計算効率が得られ、スケーラブルなトレーニングが可能である。
• 実証的結果から、各感受性グループのソース分布とターゲット分布間の予測差が、公平性の転送可能性において重要な要因であることが確認された。