[論文レビュー] A Convex Framework for Fair Regression

Richard A. Berk, Hoda Heidari+6 more|arXiv (Cornell University)|Jun 7, 2017

Ethics and Social Impacts of AI参考文献 19被引用数 192

ひとこと要約

この論文は、線形回帰とロジスティック回帰のための凸型の公平性正則化ファミリを導入し、効率的な最適化を可能にするとともにPareto frontierとPrice of Fairnessを通じて六つのデータセットで精度と公平性のトレードオフを探索できる。

ABSTRACT

We introduce a flexible family of fairness regularizers for (linear and logistic) regression problems. These regularizers all enjoy convexity, permitting fast optimization, and they span the rang from notions of group fairness to strong individual fairness. By varying the weight on the fairness regularizer, we can compute the efficient frontier of the accuracy-fairness trade-off on any given dataset, and we measure the severity of this trade-off via a numerical quantity we call the Price of Fairness (PoF). The centerpiece of our results is an extensive comparative study of the PoF across six different datasets in which fairness is a primary consideration.

研究の動機と目的

• 分類を超えた回帰設定における公正性を動機づけ、形式化する。
• グループ間または個人間の公正性を強制する柔軟な凸正則化ファミリを導入する。
• 公正性の重みを変えることにより、精度と公正性のParetoフロンティアの計算を可能にする。
• データ依存のPrice of Fairness (PoF) でトレードオフの重大さを定量化する。
• 保護変数の公正性概念と取り扱いを比較するため、複数データセットに跨る広範な実証研究を提供する。

提案手法

• 回帰損失、L2正則化、および重みlambdaを持つ凸公正性正則化を組み合わせた加重目的関数を定義する。
• 2つのコア公正性ペナルティを提案する：f1は個人の公正性、f2はグループ公正性であり、それぞれクロスグループのインスタンス対で動作し、d(y_i,y_j)で重み付けされる。
• 保護グループに対して単一モデル設定と別個モデル設定の両方へ拡張する。
• 二値の場合にはラベルごとにクロス対をグループ化し、二乗平均ペナルティを適用することによるハイブリッド公正性を許容する。
• データセットを正規化し、実数値ターゲットと二値ターゲットに対して適切にd(y_i,y_j)を選択する（それぞれ e^(-(y_i-y_j)^2) と 1[y_i=y_j]）。
• λを変化させて、min_w l(w,S) + lambda f(w,S) + gamma||w||^2 を解くことによりPareto frontierを計算する。

実験結果

リサーチクエスチョン

• RQ1 凸最適化フレームワークにおいて、保護グループまたは個人にわたる公正性を強制するように回帰を正則化するにはどうすれば良いか？
• RQ2 異なる公正性概念（個人、公正群、ハイブリッド）がデータセット全体で回帰精度に与える影響は何か？
• RQ3 グループごとに別個のモデルを許容することは、単一の共有モデルと比較して公正性と精度のトレードオフを実質的に改善するか？
• RQ4 公正性要件が厳しくなると精度コストはどれくらい大きくなるか、そしてそれをデータセット間でどう定量化できるか？
• RQ5 d(y_i,y_j) の選択は公正性–精度フロンティアと PoF にどのような影響を与えるか？

主な発見

• 回帰タスクにおける個人公正性からグループ公正性へと広がる柔軟な凸型公正性正則化ファミリ。
• 公正性の重みを変えると、データセットを横断する精度と公正性のトレードオフを示すParetoフロンティアが得られる。
• The Price of Fairness (PoF) は、公正性制約下の相対的な精度損失を定量化し、データセットおよび公正性概念によって変化する。
• 6つのデータセットにわたる実証研究では、PoFは一般に個人の公正性の方がグループ公正性より高く、領域依存の変動が顕著である。
• グループ別の別個モデルはしばしばほとんど改善をもたらさず、過学習のためサンプル外性能を悪化させることさえある。
• ハイブリッド公正性はデータセットとラベリング方式によって異なるトレードオフを生み出す可能性があり、普遍的な公正性処方は存在しないことを強調する。