[論文レビュー] Distributive Justice as the Foundational Premise of Fair ML: Unification, Extension, and Interpretation of Group Fairness Metrics

Joachim Baumann, Corinna Hertweck+2 more|arXiv (Cornell University)|Jun 6, 2022

Social and Intergroup Psychology被引用数 5

ひとこと要約

本論文は、分配的正義理論に裏付けられた、機械学習におけるグループ公平性指標を統合する枠組みを提案する。この枠組みは、効用の測定、関連するグループ、主張の差異要因、正義のパターンという4つの規範的要素を導入し、既存の公平性指標を解釈・拡張することで、差別の的基準に基づくアプローチを越えた文脈に配慮した、道徳的に根拠付けられた公平性評価を可能にする。

ABSTRACT

Group fairness metrics are an established way of assessing the fairness of prediction-based decision-making systems. However, these metrics are still insufficiently linked to philosophical theories, and their moral meaning is often unclear. In this paper, we propose a comprehensive framework for group fairness metrics, which links them to more theories of distributive justice. The different group fairness metrics differ in their choices about how to measure the benefit or harm of a decision for the affected individuals, and what moral claims to benefits are assumed. Our unifying framework reveals the normative choices associated with standard group fairness metrics and allows an interpretation of their moral substance. In addition, this broader view provides a structure for the expansion of standard fairness metrics that we find in the literature. This expansion allows addressing several criticisms of standard group fairness metrics, specifically: (1) they are parity-based, i.e., they demand some form of equality between groups, which may sometimes be detrimental to marginalized groups; (2) they only compare decisions across groups but not the resulting consequences for these groups; and (3) the full breadth of the distributive justice literature is not sufficiently represented.

研究の動機と目的

• 既存のグループ公平性指標に規範的根拠が欠けている問題に対処するため、哲学的分配的正義理論と結びつける。
• 多様なグループ公平性基準を、解釈可能で一貫した枠組みに統合し、その背後にある道徳的仮定を明らかにする。
• 標準的な公平性指標を、平等主義的ではない正義原理を含む、差別の的基準を超えて拡張する。
• 特定の応用に適合した文脈に配慮した新しい公平性基準を設計するための構造的メソッドを提供する。
• 公平性指標の道徳的本質を明確にするため、その設計に埋め込まれた規範的選択を明示的に特定する。

提案手法

• この枠組みは4つのコア要素から成る：(1) 決定対象者の効用、すなわち利益または被害の測定方法を定義する；(2) 関連するグループ、すなわち比較対象となる社会的グループを指定する；(3) 主張の差異要因、すなわち非均等な効用配分を正当化する要因を特定する；(4) 正義のパターン、すなわち公正な配分とは何かを定義する。
• この枠組みは、既存の公平性指標（例：デモグラフィックパラティーション、等しい機会）を特別なケースとして解釈し、それらの背後にある規範的仮定を明らかにする。
• パラティーションを超えて、ピリオリタリアニズムやサフィシェントリアニズムなどの代替正義理論を組み込むことで、公平性をパラティーションから拡張する。
• このアプローチは、結果を数量化するための効用行列を用い、反事実的状況や代替分類器を含むさまざまな仮定の下で、グループ間の配分を比較する。
• 成分を変更することで、新しい公平性指標を構築できる。例えば、予測率だけでなく、現実世界の結果（例：医療結果）に基づいて効用を定義する。
• 哲学的正義理論を通じて公平性指標を解釈するレンズを提供し、アルゴリズム的パラティーションを超えて、道徳的に根拠付けられた評価へと移行する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、分配的正義理論に根ざした規範的枠組みのもとで、グループ公平性指標を体系的に統合できるか？
• RQ2 標準的なグループ公平性指標に埋め込まれた、暗黙の道徳的仮定は何か。それらを明示的にできるか？
• RQ3 公平性指標は、どのようにして、平等主義的ではない正義原理を含む、パラティーションに基づく概念を超えて拡張できるか？
• RQ4 どのような方法で、原理的かつ規範的に裏付けられた枠組みを用いて、特定の応用文脈に適合した公平性基準を適応できるか？
• RQ5 代替の分配的正義理論（例：ピリオリタリアニズム、サフィシェントリアニズム）は、機械学習の公平性指標にどの程度形式化され、適用可能か？

主な発見

• 提案された枠組みは、デモグラフィックパラティーション、等しい機会、等化オッズといった主要なグループ公平性指標を、一般化された分配的正義原則の具体例として解釈することで、それらを効果的に統合した。
• この枠組みは、標準的な公平性指標が、しばしば実務で暗黙のうちに前提されているが、エゴイズムやピリオリタリアニズムといった特定の規範的選択を内蔵していることを明らかにした。
• 主張の差異要因と代替の正義のパターンを導入することで、この枠組みは、単にパラティーションに基づくものではない公平性指標の創出を可能にし、既存のアプローチに対する主な批判に応える。
• 反事実的公平性や好みに基づく統計的パラティーションを、特別なケースとして形式化でき、それらが異なる意思決定システムにおける効用配分をどのように比較するかを示した。
• このアプローチは、公平性がグループ間の結果比較だけでなく、代替案に対してすべてのグループの結果が改善されているかどうかを評価することによっても評価可能であることを示した。
• 実務的実装は困難であるが、医療の例のように、文脈に応じた方法で効用関数を定義可能であることが示された。