[論文レビュー] Welfare and Distributional Impacts of Fair Classification

Lily Hu, Yiling Chen|arXiv (Cornell University)|Jul 3, 2018

Ethics and Social Impacts of AI参考文献 5被引用数 15

ひとこと要約

本稿は、公平な分類を分布的問題として再解釈し、分類器の意思決定を社会的福祉重みに変換する、社会的福祉最大化フレームワークを導入する。制約付き損失最小化を福祉経済学におけるプランナー問題にマッピングすることで、公平性制約が個人および集団の福祉に与える影響を明らかにし、線形SVMを用いた二値分類において、正確性、公平性、分配的正義の間のトレードオフを評価する規範的枠組みを提供する。

ABSTRACT

Current methodologies in machine learning analyze the effects of various statistical parity notions of fairness primarily in light of their impacts on predictive accuracy and vendor utility loss. In this paper, we propose a new framework for interpreting the effects of fairness criteria by converting the constrained loss minimization problem into a social welfare maximization problem. This translation moves a classifier and its output into utility space where individuals, groups, and society at-large experience different welfare changes due to classification assignments. Under this characterization, predictions and fairness constraints are seen as shaping societal welfare and distribution and revealing individuals' implied welfare weights in society--weights that may then be interpreted through a fairness lens. The social welfare formulation of the fairness problem brings to the fore concerns of distributive justice that have always had a central albeit more implicit role in standard algorithmic fairness approaches.

研究の動機と目的

• 公平な機械学習におけるギャップ、すなわち公平性を正確性とパラメータのパラティーのトレードオフに還元する枠組みを補填するための社会的福祉フレームワークを導入すること。
• 機械学習における制約付き損失最小化と経済学における社会的福祉最大化の間の明示的関係を形式化し、分配的影響の分析を可能にすること。
• 公平性制約を、裏に潜む社会的福祉重みのシフトとして解釈し、異なる公平性基準が個人および集団に与える影響を明らかにすること。
• 線形SVMにおける公平な分類器の調整から新しい福祉重み関数を導出する幾何学的・解析的手法を提供すること。
• モデルの行動と社会的水準の公平性および効用分配を結びつけることで、公平性手法の規範的評価を可能にすること。

提案手法

• 経験的リスク最小化を、個々の利得の重み付き和を最大化することを目的とする社会的福祉最大化問題に再定式化する。
• 個々の利得に対する社会的価値が反映された福祉重みを反映する社会的福祉機能を導入する。
• プランナー問題を逆転させ、与えられた分類器の割り当てが最適であると正当化する裏付けとなる、暗黙の福祉重み関数を推定する。
• 元の分類器のマージン h(x) を新しいマージン h′(x) に写像する線形変換 T を用い、新しい福祉重み w′(h′(x), xm) の導出を可能にする。
• データポイントから新しい意思決定境界までの距離 D(x, T(hx)) の全微分解析を通じて、新しい福祉重み関数 w′ の導出条件を導出する。
• 直交射影 Ph および Ph′ を用いた幾何的解析により、意思決定境界のシフトに伴う福祉重みの変化を計算する。

実験結果

リサーチクエスチョン

• RQ1 機械学習における公平性は、正確性のトレードオフとしてのみ捉えられるのではなく、社会的福祉分配の問題として再解釈できるか？
• RQ2 二値分類タスクにおいて、学習済み分類器に対応する暗黙の社会的福祉重み関数は何か？
• RQ3 公平性制約は、分類器の出力における個人および集団の福祉重みの分配にどのように影響を及えるか？
• RQ4 分類器の意思決定境界の変換を、社会的福祉重みの変化と解析的に結びつけることができるか？
• RQ5 公平性調整済み分類器が最適な社会的福祉配分に対応するための幾何学的および数学的条件は何か？

主な発見

• 本稿は、公平な分類と社会的福祉最大化の間の正式なマッピングを確立し、公平性制約が暗黙の社会的福祉重みのシフトに対応することを示した。
• 公平性調整による意思決定境界の変換は、新しい境界までの距離の全微分を用いて解析的に導出可能な福祉重みの変化を引き起こす。
• 新しい福祉重み関数 w′(h′(x), xm) は、距離 D(x, T(hx)) の変化および元の重み関数がこの距離および個人特徴 xm に対して感受性を示す度合いに依存して決定される。
• この手法により、元の分類器と公平な分類器の重み分布を直接比較でき、公平性が社会が個人をどのように評価するかに与える影響を明らかにすることができる。
• このフレームワークにより、集団レベルおよび個人レベルの福祉配分への影響を定量化することで、公平性手法の規範的評価が可能になる。
• 本手法は、元の意思決定境界から新しい境界へと射影を写像する線形変換 T を通じて、公平性調整の幾何的解釈を提供する。