[論文レビュー] Empirical Risk Minimization under Fairness Constraints

Michele Donini, Luca Oneto+3 more|arXiv (Cornell University)|Feb 23, 2018

Ethics and Social Impacts of AI参考文献 42被引用数 88

ひとこと要約

この論文は、公平性制約の下で分類器を学習するための Fair Empirical Risk Minimization (FERM) を紹介します。条件付きリスクを敏感なグループ間で等しくすることで、理論的一致性保証と実用的なカーネル/線形実装を提供します。

ABSTRACT

We address the problem of algorithmic fairness: ensuring that sensitive variables do not unfairly influence the outcome of a classifier. We present an approach based on empirical risk minimization, which incorporates a fairness constraint into the learning problem. It encourages the conditional risk of the learned classifier to be approximately constant with respect to the sensitive variable. We derive both risk and fairness bounds that support the statistical consistency of our approach. We specify our approach to kernel methods and observe that the fairness requirement implies an orthogonality constraint which can be easily added to these methods. We further observe that for linear models the constraint translates into a simple data preprocessing step. Experiments indicate that the method is empirically effective and performs favorably against state-of-the-art approaches.

研究の動機と目的

• 正例ラベルに対して敏感なグループ間で条件付きリスクを等しくするという公平性制約を動機づけ、形式化する。
• この制約を ERM に組み込んだ Fair Empirical Risk Minimization (FERM) フレームワークを開発する。
• FERM に対して理論的なリスクおよび公平性の一貫性境界を提供する。
• 公正性制約がカーネル法（直交性制約）および線形データ前処理ステップへどのように翻訳されるかを示す。
• 複数データセットにわたり、最先端の公正性手法と比較して実証的な有効性を示す。

提案手法

• 正例クラスのリスクのグループ間差に基づく ε-公正性制約を定義し、それを ERM に埋め込んで Fair ERM (FERM) を得る。
• FERM の統計的一貫性を確立するためのリスクおよび公正性境界を導出し、実用的最適化のための代替滑らかさ付き凸緩和を議論する。
• カーネル法へ特化: 制約を RKHS での内積界限として表現し、標準的な SVM 的ソルバーで解ける制約付き Tikhonov 正則化目的を導く。
• 線形モデルでは ε-公正性制約は、差別的方向を除去して公正性を強制するデータ前処理ステップに縮約する。
• 凸な代用問題と元の非凸な公正性目的との理論的結びつきを提供し、公平性 EO との差を上回るギャップを囲む条件（Δ̂）を含む。
• 実践的な検証手順と精度と DEO（デモグラフィック/機会平等指標）をバランスさせる新しいハイパーパラメータ検証法を含める。

実験結果

リサーチクエスチョン

• RQ1 等価機会性に類似した公正性を、グループ間の正例の条件付きリスクの境界として捉える公正性制約を定式化できるか。
• RQ2 公正性制約を ERM に埋め込むと、標準的な学習可能性仮定の下で統計的に一貫した推定量を得られるか。
• RQ3 カーネル法および線形前処理における公正性制約の効率的な実装方法はどうなり、凸性と最適化へどの影響があるか。
• RQ4 凸代用（ヒンジ損失/線形損失）を用いた場合、非凸の公正 ERM 目的をどの程度良く近似できる条件は何か。
• RQ5 提案手法はベンチマークデータセットで最先端の公正性手法と比較して、精度と公正性（DEO）の観点でどのように性能を示すか。

主な発見

• FERM は複数データセットで、ベースラインに比べて公正性指標 DEO を大幅に抑えつつ、精度を競争力のある水準に保つ。
• 理論結果（定理1）は、適切な ε̂ を用いると、サンプルサイズが増加するにつれて FERM のリスクと公正性の両方が一貫性を持つことを示す。
• 凸代用（ヒンジ損失）は、検証可能な条件（Δ̂）の下で EO に近くなるような実現性のある最適化を提供する。
• カーネル化設定では公正性制約は ε=0 の直交性制約となり、標準的な SVM ソルバーと統合可能になる；線形設定ではデータ前処理ステップに対応する。
• 実証結果は、FERM が 5 データセット中 4 で公正性を改善し、残りの 1 つでも競争力を維持することを示し、Hardt や Zafar などの最先端手法と同程度の精度領域でしばしば優位となる。
• 提案手法は Lasso などの線形モデルにも一般化でき、前処理と組み合わせることでスパシティと公正性を両立する。