[論文レビュー] Fairness Behind a Veil of Ignorance: A Welfare Analysis for Automated Decision Making

Hoda Heidari, Claudio Ferrari+2 more|arXiv (Cornell University)|Jun 13, 2018

Ethics and Social Impacts of AI参考文献 27被引用数 45

ひとこと要約

本論文は、 veil of ignorance に根ざした福祉ベースの公正性指標を導入し、それを学習時の凸結約として埋め込み、実データセット上で精度や他の公正性概念とのトレードオフを分析します。さらに、福祉の下限が結果の不平等を抑制できることを示します。

ABSTRACT

We draw attention to an important, yet largely overlooked aspect of evaluating fairness for automated decision making systems---namely risk and welfare considerations. Our proposed family of measures corresponds to the long-established formulations of cardinal social welfare in economics, and is justified by the Rawlsian conception of fairness behind a veil of ignorance. The convex formulation of our welfare-based measures of fairness allows us to integrate them as a constraint into any convex loss minimization pipeline. Our empirical analysis reveals interesting trade-offs between our proposal and (a) prediction accuracy, (b) group discrimination, and (c) Dwork et al.'s notion of individual fairness. Furthermore and perhaps most importantly, our work provides both heuristic justification and empirical evidence suggesting that a lower-bound on our measures often leads to bounded inequality in algorithmic outcomes; hence presenting the first computationally feasible mechanism for bounding individual-level inequality.

研究の動機と目的

• 自動化意思決定を評価する際に、公平性の評価には平等性だけでなくリスクと福祉を考慮する必要性を動機づける。
• 標品の社会的福祉と Rawlsian の思想に結びついた福祉ベースの公正性指標の族を提案する。
• 学習中に福祉指標の下限を強制する凸のインプロセシング手法を開発する。
• 福祉、精度、グループ差別、個別の公正性概念間のトレードオフを実証的に分析する。

提案手法

• 予測の利益関数と効用関数を定義する（b(y, ŷ)）と CRRA 効用 u(b) = b^α を 0 < α < 1 で定義する。
• 福祉指標 Wα(b) = ∑i wα(bi) を導入し、wα(b) = b^α が福祉の下限を課す際に凸制約を生み出すことを示す。
• 学習時のインプロセッシングを制約付き最適化として定式化する：訓練損失 L_D(h) を最小化しつつ U_D(h) ≥ τ を満たす、ここで U_D(h) = E[u(b(y, h(x)))]。
• 提案する指標を別の cardinal 福祉関数および Pigou-Dalton 移転原理へ結びつけ、Atkinson’s index との理論的性質と関係を確立する。
• フレームワークが最適化の効率性を認め、凸の損失最小化パイプラインへ組み込むことができる点を論じる。

実験結果

リサーチクエスチョン

• RQ1 自動意思決定の公正性評価において、平等性以外の観点を含むリスクと福祉をどのように組み込めるか。
• RQ2 分類および回帰タスクにおける福祉ベースの公正性と予測精度、他の公正性概念（グループ、公正性、個人）とのトレードオフはどうなるか。
• RQ3 福祉の下限を課すことは、アルゴリズム出力の不平等を実効的に抑制し得るか。
• RQ4 提案されたフレームワークは、mean-preserving transformations の下で Atkinson index などの既存の福祉・不平等指標とどのように関係するか。

主な発見

• 福祉ベースの公正性指標は、平均が異なっていてもリスクが低く福祉が高い分布を好み、平等性だけでは不十分なシナリオに対応する。
• 凸なインプロセッシング制約により、分類と回帰タスクの双方で福祉下限を課す際の効率的な最適化が可能。
• 経験的結果はトレードオフを示し、福祉閾値 τ を上げることやリスク回避 α を強くすると、不平等やグループ格差は抑制される一方で精度が低下する場合がある。
• 社会的福祉の下限は、結果の不平等を抑える傾向があり、個人レベルの不平等を抑制する計算的に実現可能な機構を示唆する。
• α が (0,1) のとき、固定平均で Atkinson’s index との整合性があることから、福祉と不平等の概念が一貫して順位付けされる。