[論文レビュー] Rényi Fair Inference

Sina Baharlouei, Maher Nouiehed+2 more|arXiv (Cornell University)|Jun 28, 2019

Ethics and Social Impacts of AI参考文献 59被引用数 14

ひとこと要約

本稿では、感受性属性とモデル出力の間のリーマン相関を最小化することで、機械学習における公平性を強制する、新しいインプロセッシングフレームワーク「Rényi Fair Inference」を提案する。離散的属性に対して収束保証があるミニマックス最適化定式化を用い、ピアソン相関やHSICに基づく手法と比較して、非線形依存関係を捉える点で優れた公平性・精度のトレードオフを達成する。

ABSTRACT

Machine learning algorithms have been increasingly deployed in critical automated decision-making systems that directly affect human lives. When these algorithms are only trained to minimize the training/test error, they could suffer from systematic discrimination against individuals based on their sensitive attributes such as gender or race. Recently, there has been a surge in machine learning society to develop algorithms for fair machine learning. In particular, many adversarial learning procedures have been proposed to impose fairness. Unfortunately, these algorithms either can only impose fairness up to first-order dependence between the variables, or they lack computational convergence guarantees. In this paper, we use Rényi correlation as a measure of fairness of machine learning models and develop a general training framework to impose fairness. In particular, we propose a min-max formulation which balances the accuracy and fairness when solved to optimality. For the case of discrete sensitive attributes, we suggest an iterative algorithm with theoretical convergence guarantee for solving the proposed min-max problem. Our algorithm and analysis are then specialized to fair classification and the fair clustering problem under disparate impact doctrine. Finally, the performance of the proposed Rényi fair inference framework is evaluated on Adult and Bank datasets.

研究の動機と目的

• 線形依存度測定に依存する既存の公平性手法の限界を是正すること。
• 感受性属性とモデル出力の間の統計的独立性を促進する一般的なインプロセッシングフレームワークを構築すること。
• 離散的感受性属性に対して計算的収束を保証しつつ、強力な公平性・精度のトレードオフを維持すること。
• ベンチマークデータセットを用いて、公平分類および公平クラスタリングのタスクで手法を評価すること。

提案手法

• 感受性属性とモデル予測の間のRényi相関（最大相関）を最小化することで、公平性を定式化する。
• 精度と公平性のバランスを図るミニマックス最適化問題を提案し、離散的感受性属性に対して理論的収束保証を有する。
• 交互最適化に基づく反復的アルゴリズムを用いてミニマックス問題を解き、1次最適性を保証する。
• 公平分類および公平クラスタリングにこのフレームワークを特化し、等しい機会の原則やクラスタバランスといった公平性指標を用いる。
• 非パラメトリックな統計的独立性の代理指標としてRényi相関を採用し、非線形依存関係を捉える能力を持つ。
• モデルの精度と公平性のトレードオフを制御する正則化ハイパーパrameter λ を導入する。

実験結果

リサーチクエスチョン

• RQ1 Rényi相関は、公平性制約における統計的独立性の効果的かつ計算的に実行可能な代替指標として機能するか？
• RQ2 反復的最適化を伴う提案されたミニマックス定式化は、離散的感受性属性に対して収束保証を有するか？
• RQ3 Rényi相関は、ピアソン相関やHSICに基づく手法と比較して、公平性制約における非線形依存関係をどれほど効果的に捉えられるか？
• RQ4 正則化パrameter λ を増加させることで、モデルの精度を著しく低下させることなく、公平性がどの程度向上するか？
• RQ5 クラスタ構成のバランスを保護群ごとに測定した場合、このフレームワークは公平クラスタリングに効果的に拡張可能か？

主な発見

• Rényiファーフェアインファレンスフレームワークは、特にAdultデータセットにおいて、同等の精度水準で最先端の手法よりも低い等しい機会（EO）違反を達成する。
• ロジスティック回帰において、ドイツ信用、Adult、Bankの各データセットにおいて、HSICやピアソン相関正則化と比較して、Rényi正則化による精度の低下が小さい。
• ピアソンやHSICとは異なり、Rényi相関は、複数または非二値の感受性属性が存在する場合でも、閾値を超えて公平性違反を効果的に低減できる。
• 公平k-meansクラスタリングにおいて、λ を増加させることで、各クラスタごとの優位群割合を表す確率ベクトル w の標準偏差が減少し、λ ≥ 1 でほぼ均一なクラスタ構成が達成される。
• λ の増加に伴い、公平性のずれ（w の標準偏差）は急速に減少するが、λ ≤ 0.005 の範囲ではクラスタリング損失の増加は小さい。
• 感受性属性が離散的である場合、反復的アルゴリズムの理論的収束が保証され、二値感受性属性の場合には最適収束が証明されている。