[論文レビュー] Minimax Pareto Fairness: A Multi Objective Perspective

Natalia Martínez, Martín Bertrán+1 more|PubMed|Nov 3, 2020

Ethics and Social Impacts of AI被引用数 54

ひとこと要約

本論文はグループフェアネスを多目的最適化問題として定式化し、Minimax Pareto Fairness (MMPF) を導入する。単純な SGD ベースのアルゴリズム (APStar) を用い、テスト時にセンシティブ属性へアクセスを必要としないことで、タスク間での最悪グループの性能を改善する。

ABSTRACT

In this work we formulate and formally characterize group fairness as a multi-objective optimization problem, where each sensitive group risk is a separate objective. We propose a fairness criterion where a classifier achieves minimax risk and is Pareto-efficient w.r.t. all groups, avoiding unnecessary harm, and can lead to the best zero-gap model if policy dictates so. We provide a simple optimization algorithm compatible with deep neural networks to satisfy these constraints. Since our method does not require test-time access to sensitive attributes, it can be applied to reduce worst-case classification errors between outcomes in unbalanced classification problems. We test the proposed methodology on real case-studies of predicting income, ICU patient mortality, skin lesions classification, and assessing credit risk, demonstrating how our framework compares favorably to other approaches.

研究の動機と目的

• 各センシティブグループのリスクを各々が目的となる、グループフェアネスを多目的最適化として定式化する。
• パレート最適性による不要な害のない公平性を定義し、最大のグループリスクを最小化する。
• テスト時のセンシティブ属性を必要とせず、minimax Pareto fair な分類器を回復する、ニューラルネットワークと互換性のある単純な最適化手法を開発する。
• 実データを用いた適用性を、所得予測、ICU死亡率、皮膚病変分類、信用リスクで示す。

提案手法

• グループ特異的リスク r_a(h) を MOOP の目的としてモデル化する。

実験結果

リサーチクエスチョン

• RQ1 グループフェアネスを多目的最適化問題としてどのように定式化できるか、そしてパレート最適性の役割は何か。
• RQ2 minimaxPareto fairness とは何か、そしてテスト時のセンシティブ属性を用いずに対応する分類器をどのように計算できるか。
• RQ3 提案された APStar アルゴリズムは、実世界データセット上で minimax Pareto fair 分类器へ効率的に収束できるか。
• RQ4 MMPF は Naive、Balanced、その他のフェアネスメソッドと、MIMIC-III、HAM10000、Adult、German Credit のようなタスクでどのように比較されるか？

主な発見

• 著者らは凸損失（例：Brier Score および Cross-Entropy）に対してパレート効率的な分類器を特徴づけ、グループリスクの加重和を介してそれらを回復する方法を示す。
• Minimax Pareto Fairness (MMPF) は、パレート効率的な分類器の中から最悪グループリスクが最も小さいものを選択し、SGD の上に単純な適応損失を用いて最適化できる。
• 感度グループ間の重みを更新して最小最大リスクを洗練する APStar アルゴリズムが提案され、収束特性が議論され、ランダムサンプリングや MWU に対する経験的な速度優位性が示される。
• 本手法は実データセット（MIMIC-III、HAM10000、Adult、German）で実証され、Naive、Balanced、テスト時後処理法などのベースラインと比べて最悪グループの性能が改善され、精度/格差指標も競争力がある。
• MMPF はテスト時のセンシティブ属性へのアクセスを必要とせず、非二値のセンシティブ変数およびターゲット変数にも対応でき、不均衡な分類シナリオへの適用範囲を広げる。