[論文レビュー] Fair Regression: Quantitative Definitions and Reduction-based Algorithms

Alekh Agarwal, Miroslav Dudı́k+1 more|arXiv (Cornell University)|May 30, 2019

Ethics and Social Impacts of AI参考文献 31被引用数 63

ひとこと要約

本論文は統計的パリティと制限されたグループ損失の下で公正な回帰を定義し、標準的な学習問題へ還元するアルゴリズムを提案し理論的保証を提供する。

ABSTRACT

In this paper, we study the prediction of a real-valued target, such as a risk score or recidivism rate, while guaranteeing a quantitative notion of fairness with respect to a protected attribute such as gender or race. We call this class of problems \emph{fair regression}. We propose general schemes for fair regression under two notions of fairness: (1) statistical parity, which asks that the prediction be statistically independent of the protected attribute, and (2) bounded group loss, which asks that the prediction error restricted to any protected group remain below some pre-determined level. While we only study these two notions of fairness, our schemes are applicable to arbitrary Lipschitz-continuous losses, and so they encompass least-squares regression, logistic regression, quantile regression, and many other tasks. Our schemes only require access to standard risk minimization algorithms (such as standard classification or least-squares regression) while providing theoretical guarantees on the optimality and fairness of the obtained solutions. In addition to analyzing theoretical properties of our schemes, we empirically demonstrate their ability to uncover fairness--accuracy frontiers on several standard datasets.

研究の動機と目的

• 回帰設定における定量的な公正の概念を用いて実数ターゲットを予測する動機づけ。
• 回帰タスクに対して統計的パリティと制限付きグループ損失という2つの公正性の概念を定義する。
• 標準的なリスク最小化、分類、または回帰オラクルを活用する還元ベースのアルゴリズムを開発する。
• Lipschitz損失と制限付きモデルクラスに対して最適性、公正性、一般化に関する理論的保証を提供する。
• 回帰タスク全体で標準データセット上で公正性-精度のトレードオフを実証的に示す。

提案手法

• Lipschitz 損失と保護属性を用いた公正な回帰の一般的なフレームワーク。
• 二つのアルゴリズム還元: (i) SP のコスト感度分類への還元; (ii) グループ別制約を持つ加重損失最小化への還元。
• 正確性保証を保持しつつ予測空間の離散化によって有限の制約集合を作成。
• 公正さと精度のトレードオフを改善するためのランダム化予測子の使用。
• 標準学習オラクルへの還元: 重み付き損失の下でのリスク最小化、重み付き最小二乗、またはコスト感度分類。
• 計算効率、一般化誤差、公正性違反を境界づける理論的結果。

実験結果

リサーチクエスチョン

• RQ1 標準学習パイプラインを用いて regression で統計的パリティを維持しつつ予測精度を近接に保てるか？
• RQ2 加重または制約付き学習問題への還元を通して回帰で制限付きグループ損失を実現するには？
• RQ3 これらの還元で解くときの理論的保証（コスト、一般化、公正性違反）は？
• RQ4 離散化とランダム化予測子は任意の Lipschitz 損失とモデルクラスに対して公正な回帰を実現できるか？
• RQ5 標準データセットで公正性-精度フロンティアを比較すると、これらの公正回帰法はどう適用されるか？

主な発見

• 公正回帰は SP または BGL 制約を用いて標準のリスク最小化オラクルとともに定式化できる。
• SP は予測空間を離散化し有限の制約を持つコスト感度分類へ還元することで対処される。
• BGL はグループ別損失上限を持つ重み付き損失最小化問題への還元で対処される。
• このアプローチは Lipschitz 損失と有界な複雑さクラスに対して損失、公正性違反、一般化に関する理論的保証を提供する。
• 実証結果は最小二乗法とロジスティック回帰の下で、線形および木集合アンサンブル学習者を跨ぐ公正性-精度フロンティアを示す。
• フレームワークは確実性を損なうことなくトレードオフを改善するためのランダム化予測子をサポートする。