[論文レビュー] Review of Mathematical frameworks for Fairness in Machine Learning

Eustasio del Barrio, Paula Gordaliza+1 more|arXiv (Cornell University)|May 26, 2020

Ethics and Social Impacts of AI参考文献 95被引用数 20

ひとこと要約

この論文は、機械学習における公平性定義および公平学習手法についての数学的レビューを提示し、統計的差がないことや同等のオッズといった独立性に基づく公平性基準に焦点を当てている。等価なオッズの下での最適な公平な分類器と予測子を、ガウス線形モデルのもとで導出し、閉形式の式と双対に基づく最適化を通じて、性能のトレードオフ（「公平性の代償」）を定量化している。

ABSTRACT

A review of the main fairness definitions and fair learning methodologies proposed in the literature over the last years is presented from a mathematical point of view. Following our independence-based approach, we consider how to build fair algorithms and the consequences on the degradation of their performance compared to the possibly unfair case. This corresponds to the price for fairness given by the criteria $ extit{statistical parity}$ or $ extit{equality of odds}$. Novel results giving the expressions of the optimal fair classifier and the optimal fair predictor (under a linear regression gaussian model) in the sense of $ extit{equality of odds}$ are presented.

研究の動機と目的

• 機械学習における公平性の数学的枠組みを、厳密な確率論的および統計的視点から体系的にレビューすること。
• 統計的差と同等のオッズを主な基準として用い、感受性属性と予測の間の独立性制約として公平性を形式化すること。
• 分類および回帰のタスクにおいて公平性制約を適用した際の性能低下（「公平性の代償」）を定量化すること。
• ガウス線形モデルにおける等価なオッズ基準の下で、最適な公平な分類器と予測子の閉形式表現を導出すること。
• 公平性制約と最適化における双対性の理論的関係を確立し、公平なモデルの効率的計算を可能にすること。

提案手法

• 公平性を条件付き独立性制約として定式化：予測値が真のラベルを条件として感受性属性と独立であることを定義し、等価なオッズを導出する。
• ラグランジュ乗数を用いた公平性制約を導入することで、最適な公平な分類器を導出する双対最適化フレームワークを採用する。
• 条件付き確率と公平性ペナルティに基づくしきい値付き意思決定ルールのインジケータ関数として最適な分類器を導出する。
• 双対理論を用いて制約付き最適化問題を双対問題に変換し、ガウス仮定のもとで解析的解を得る。
• 正則性のもとで部分勾配を用いて一次の最適性条件を確立し、グループごとの真正陽性率と偽陽性率のバランス方程式を導出する。
• 回帰関数 η(x,s) = P(Y=1|X=x,S=s) を用いて、公平性制約のもとでの最適意思決定ルールを導出する基盤を構築する。

実験結果

リサーチクエスチョン

• RQ1 感受性属性と予測の間の独立性基準として定式化した場合、機械学習における公平性の数学的構造はどのようなものか？
• RQ2 ガウス線形モデルにおける等価なオッズ制約のもとで、最適な公平な分類器を解析的にどのように導出できるか？
• RQ3 統計的差や等価なオッズの基準を適用した際の性能コスト（「公平性の代償」）はどのように定量化できるか？
• RQ4 双対式におけるラグランジュ乗数は、公平性制約およびグループ別誤差率とどのように関係するか？
• RQ5 線形回帰ガウスモデルに公平性制約を課した場合、最適な公平な予測子を閉形式で表現できるか？

主な発見

• 等価なオッズの下での最適な公平な分類器は、回帰関数と公平性ラグランジュ乗数を含むしきい値付き意思決定ルールのインジケータ関数として与えられる。
• 公平性の代償は、最適な公平な分類器とベイズ分類器の期待損失の差として定量化され、ガウスモデルのもとで明示的な式が導出された。
• λ₀ = 0 の場合、導出された最適な分類器は先行研究における等価機会分類器に簡略化され、既存の文献と整合性を示している。
• 最適な公平な分類器は等価なオッズ条件を満たしており、グループ S=0 と S=1 の間で真正陽性率と偽陽性率が等しい。
• 双対問題の最適性条件により、グループごとの意思決定ルールの期待値を結ぶバランス方程式が得られ、条件付き確率における公平性が保証される。
• 双対性を用いて、導出された分類器がすべての公平な分類器の中で最適であることが示され、公平性制約のもとで期待損失を最小化することが証明された。