[論文レビュー] Are There Exceptions to Goodhart's Law? On the Moral Justification of Fairness-Aware Machine Learning

Hilde Weerts, Lambèr Royakkers+1 more|arXiv (Cornell University)|Feb 17, 2022

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本稿は、公平性に配慮した機械学習（fair-ml）手法がどのような条件下で正当化可能であるかを評価するための道徳的推論フレームワークを構築する。公平性指標（例：人口統計的同等性や等しいオッズ）は、個々の被験者に対する利益・負担の道徳的主張とその効用が適切に整合している場合にのみ、干渉を正当化すると主張している。また、これらの指標を最適化するアルゴリズム（特にHardtら（2016）の後処理手法）は、レベルダウンや一貫性の欠如といった副作用を引き起こす可能性があり、指標が満たされていても不正な結果をもたらすことがあることを示している。

ABSTRACT

Fairness-aware machine learning (fair-ml) techniques are algorithmic interventions designed to ensure that individuals who are affected by the predictions of a machine learning model are treated fairly. The problem is often posed as an optimization problem, where the objective is to achieve high predictive performance under a quantitative fairness constraint. However, any attempt to design a fair-ml algorithm must assume a world where Goodhart's law has an exception: when a fairness measure becomes an optimization constraint, it does not cease to be a good measure. In this paper, we argue that fairness measures are particularly sensitive to Goodhart's law. Our main contributions are as follows. First, we present a framework for moral reasoning about the justification of fairness metrics. In contrast to existing work, our framework incorporates the belief that whether a distribution of outcomes is fair, depends not only on the cause of inequalities but also on what moral claims decision subjects have to receive a particular benefit or avoid a burden. We use the framework to distil moral and empirical assumptions under which particular fairness metrics correspond to a fair distribution of outcomes. Second, we explore the extent to which employing fairness metrics as a constraint in a fair-ml algorithm is morally justifiable, exemplified by the fair-ml algorithm introduced by Hardt et al. (2016). We illustrate that enforcing a fairness metric through a fair-ml algorithm often does not result in the fair distribution of outcomes that motivated its use and can even harm the individuals the intervention was intended to protect.

研究の動機と目的

• fair-ml手法における公平性指標の選定と適用に向けた道徳的指針の欠如を是正すること。
• 人口統計的同等性や等しいオッズといった公平性指標が、特定の条件下で道徳的に正当化可能かどうかを分析すること。
• 後処理アルゴリズム（特にHardtら（2016））の道徳的含意を調査すること。この手法は、グループ別または確率的決定閾値を用いて公平性を最適化する。
• 公平性指標を満たすことが、利益と負担の公平な分配を保証するという仮定に反論すること。
• 最適化目的を超えて、手続的・分配的正義を統合した包括的なfair-mlアルゴリズムの評価を提唱すること。

提案手法

• 著者らはHertweckら（2021）のフレームワークを拡張し、意思決定対象者に対する予測結果の効用およびその利益・負担への道徳的主張を統合した。
• この拡張されたフレームワークを用いて、ローン承認、採用、医療の3つのスタイリゼッドな事例において、人口統計的同等性と等しいオッズという2つの公平性指標を評価した。
• Hardtら（2016）の後処理アルゴリズムを分析した。このアルゴリズムは、グループごとに誤分類率を均等化するように決定閾値を調整する。
• 2つの最適化戦略を区別した：グループ別決定的閾値と確率的閾値。前者はグループレベルの公平性を、後者はバランスを取るために用いられる。
• 「レベルダウン」や個々の処遇における一貫性・割合の原則違反といった道徳的反論を分析した。
• 反例を用いて、公平性指標が満たされていても、予期しない副作用により不正な結果が生じる可能性を示した。

実験結果

リサーチクエスチョン

• RQ1 人口統計的同等性のような公平性指標の使用は、どのような条件下で道徳的に正当化可能か？
• RQ2 個々の被験者の効用および利益・負担への道徳的主張は、公平性指標の道徳的正当化にどのように影響するか？
• RQ3 fair-mlアルゴリズムによる公平性指標の最適化が、指標の満たされているにもかかわらず不正な結果をもたらす状況はどのようなものか？
• RQ4 後処理fair-mlアルゴリズムにおけるグループ別または確率的決定閾値の使用が、どのような道徳的含意を有するか？
• RQ5 公平性指標を満たしている場合でも、fair-ml手法を完全に回避すべき状況はいつか？

主な発見

• 人口統計的同等性と等しいオッズは、意思決定対象者に対する結果の効用およびその利益・負担への道徳的主張が、公平性指標と適切に整合している場合にのみ道徳的に正当化可能である。
• Hardtら（2016）のような後処理アルゴリズムによる公平性指標の最適化は、「レベルダウン」の反論を引き起こす可能性があり、これは、より優位な立場にあるグループの被験者が干渉なしに得られるよりも悪い扱いを受けることを意味する。
• 確率的グループ別決定閾値は、一貫性の原則に反するおそれがあり、個々の特徴とは無関係に確率的に予測を割り当てるため、個別レベルでの公平性を損なう可能性がある。
• 公平性指標が満たされていても、公平性の操作的定義が単純化されているため、結果としての利益・負担の分配が公平ではない場合がある。
• 公平性指標を最適化目的として用いることは、予測精度の低下や一貫性の欠如といった有害な副作用を引き起こす可能性があり、これは公平性に配慮した機械学習の目的そのものを損なう。
• 本研究は、technical choiceが中立的でないことを結論づけ、fair-mlの設計において透明性と手続的正義が不可欠であると主張している。