[論文レビュー] Avoiding Resentment Via Monotonic Fairness

Guy W. Cole, Sinead A. Williamson|arXiv (Cornell University)|Sep 3, 2019

Ethics and Social Impacts of AI参考文献 36被引用数 5

ひとこと要約

本稿では、鍵となる属性に関するモデル予測の単調性を強制することによって、個人の公平性とデモグラフィックバランスを統合する「単調な公平性」を提案する。より適格な個人が常に高い採用確率を持つように保証することで、直感的でない結果に起因する不満を解消しつつ、グループレベルの公平性を維持する。

ABSTRACT

Classifiers that achieve demographic balance by explicitly using protected attributes such as race or gender are often politically or culturally controversial due to their lack of individual fairness, i.e. individuals with similar qualifications will receive different outcomes. Individually and group fair decision criteria can produce counter-intuitive results, e.g. that the optimal constrained boundary may reject intuitively better candidates due to demographic imbalance in similar candidates. Both approaches can be seen as introducing individual resentment, where some individuals would have received a better outcome if they either belonged to a different demographic class and had the same qualifications, or if they remained in the same class but had objectively worse qualifications (e.g. lower test scores). We show that both forms of resentment can be avoided by using monotonically constrained machine learning models to create individually fair, demographically balanced classifiers.

研究の動機と目的

• 非単調な意思決定ルールによって、個人が不公正に扱われると感じることを防ぐこと。
• 類似した個人は類似したように扱われるべき（個人の公平性）という原則と、グループ間で均等な結果を得ること（デモグラフィック公平性）という原則の間の緊張を解消すること。
• 低いスコアの応募者が好まれるといった直感的でない結果を避けるように分類器を設計することと、デモグラフィックバランスを維持すること。
• 単調性とグループ公平性を組み合わせた新しい公平性基準を形式化し、認識される不公平感を低減すること。

提案手法

• 鍵となる特徴量に対する非保護属性に関するモデル予測の単調性制約を強制し、特徴量の値が高くなるにつれて予測出力が高くなるように保証する。
• 入力特徴量の自然な順序を尊重する決定境界を学習できる単調ニューラルネットワークを用いることで、非単調な振る舞いを防ぐ。
• 等しい機会や等化されたオッズなどのデモグラフィック公平性制約を、単調性とともに学習目的に統合する。
• 滑らかさと公平性を評価するために、Lipschitz定数のサンプルベース推定器を適用する。
• 予測精度と公平性の両立を図るために、単調性正則化と公平性正則化を組み合わせてモデルを訓練する。
• 事後調整技術を用いて、事前に訓練されたモデルに単調性を強制し、既存のブラックボックス分類器との互換性を確保する。

実験結果

リサーチクエスチョン

• RQ1 予測が単調であることで、劣った資格を持つ個人がより良い結果を得るという直感的でない結果が回避され、個人の不満が解消されるか？
• RQ2 単調な公平性をデモグラフィック公平性と組み合わせることで、大学入学など実世界の応用において直感的でない意思決定を回避できるか？
• RQ3 単調性を強制することで、予測精度を犠牲にせずに、機械学習モデルの認識される公平性がどの程度向上するか？
• RQ4 単調性制約が、データ内の誤った非単調な傾向に過剰適合するのを防ぐ正則化として機能するか？

主な発見

• 単調な公平性は、低い資格の個人が好まれる直感的でない結果を排除し、デモグラフィック公平性が達成されても依然として生じる不満を解消する。
• 法科大学院データセットでは、単調ニューラルネットワークが非単調モデルと比較して、特に単調性が自然に現れる設定では滑らかで整合性のとれた決定境界を生成した。
• 単調性制約は正則化として機能し、特に強い単調関係が見られるデータセットでは、訓練データ内の非単調パターンへの過剰適合を低減する。
• サンプルベースのLipschitz定数推定器の結果から、単調モデルは非単調モデルと比較して滑らかである傾向にあり、これは単調モデルの個人の公平性特性を裏付ける。
• デモグラフィック公平性が強制されても、非単調モデルは、スコアを下げるほど採用確率が上がる政策を生み出す可能性がある—これにより単調性の重要性が浮き彫りになる。
• 事後単調性調整は実現可能であり、モデルアーキテクチャを変更せずに既存の分類器に適用可能である。