[論文レビュー] What Is Fairness? On the Role of Protected Attributes and Fictitious Worlds

Ludwig Bothmann, Kristina Peters+1 more|arXiv (Cornell University)|May 19, 2022

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

この論文は、哲学的原則と因果的推論に裏打ちされた公平性を形式化し、保護属性（PAs）が因果的影響を持たない架空で道徳的に望ましい（FiND）世界を提唱する。予測性能は公平性のための必須要件であり、妥協の対象ではないと主張し、実際のFiND世界を近似するための歪められた世界（warped world）フレームワークを導入することで、保護属性を用いずに因果的公平性を評価可能にし、差のない個々の人に公平だが不平等な扱いを実現する。

ABSTRACT

A growing body of literature in fairness-aware machine learning (fairML) aims to mitigate machine learning (ML)-related unfairness in automated decision-making (ADM) by defining metrics that measure fairness of an ML model and by proposing methods to ensure that trained ML models achieve low scores on these metrics. However, the underlying concept of fairness, i.e., the question of what fairness is, is rarely discussed, leaving a significant gap between centuries of philosophical discussion and the recent adoption of the concept in the ML community. In this work, we try to bridge this gap by formalizing a consistent concept of fairness and by translating the philosophical considerations into a formal framework for the training and evaluation of ML models in ADM systems. We argue that fairness problems can arise even without the presence of protected attributes (PAs), and point out that fairness and predictive performance are not irreconcilable opposites, but that the latter is necessary to achieve the former. Furthermore, we argue why and how causal considerations are necessary when assessing fairness in the presence of PAs by proposing a fictitious, normatively desired (FiND) world in which PAs have no causal effects. In practice, this FiND world must be approximated by a warped world in which the causal effects of the PAs are removed from the real-world data. Finally, we achieve greater linguistic clarity in the discussion of fairML. We outline algorithms for practical applications and present illustrative experiments on COMPAS data.

研究の動機と目的

• 数世紀にわたる哲学的公平性の議論と現代の公平性に配慮した機械学習（fairML）の間の溝を埋めること。
• fairMLの役割を社会的・政治的・法的責任から区別することで、公平性の道徳的基盤を明確にすること。
• 保護属性（PAs）が存在しない場合でも公平性の問題が生じ得ることを示し、公平性と予測性能の間にはトレードオフがないという一般的な認識に挑戦すること。
• PAsが因果的影響を持たない架空で道徳的に望ましい（FiND）世界を形式化し、実用的な公平性評価のための歪められた世界近似を提案すること。
• 一様な公平性指標の落とし穴を避けるために、道徳的規定と因果的モデリングを通じて公平だが不平等な扱い（垂直的公平性）を実現すること。

提案手法

• 等しい扱いと道徳的規定に基づく平等の原則に裏打ちされた哲学的フレームワークを用いて公平性を形式化する。
• 保護属性（PAs）が結果に因果的影響を持たない架空で道徳的に望ましい（FiND）世界の概念を導入する。
• 実際のデータからPAsの因果的影響を除去することで、FiND世界の実用的近似としての歪められた世界（warped world）を提案する。
• 因果推論技術を用いてPAsの因果的影響を推定・除去し、歪められた世界におけるMLモデルの訓練と評価を可能にする。
• 反事後的推論と個々の良好なキャリブレーションに基づく公平性基準を定義し、PAsが存在しない状況でもモデルが公平であることを保証する。
• 非ML専門家が公平性の目標を定義するための三段階の道徳的フレームワークを提示し、技術的指標にとどまらず社会的価値に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 哲学的公平性の概念を、自動意思決定（ADM）における機械学習に一貫して形式化・適用することは可能か？
• RQ2 保護属性（PAs）が存在しない状況でも、MLモデルに公平性の問題が生じる可能性はどの程度か？
• RQ3 因果的推論をどのように体系的に公平性評価とモデル訓練に統合し、道徳的に妥当な結果を保証できるか？
• RQ4 予測性能は公平性を達成するために果たす役割は何か？なぜこれはトレードオフではなく前提条件であるのか？
• RQ5 形式化された道徳的規定と因果的モデリングを通じて、公平だが不平等な扱い（垂直的公平性）をどのように達成できるか？

主な発見

• 公平性の問題は、保護属性（PAs）が存在しない場合でも、主に個々の良好なキャリブレーションの欠如に起因して生じる。PAsそのものの存在によるものではない。
• 予測性能は公平性と対立するのではなく、公平性を達成するための必須条件である。これは一般的なトレードオフの物語に挑戦する。
• 提唱された架空で道徳的に望ましい（FiND）世界フレームワークにより、PAsが因果的影響を持たない世界を想定することで、公平性の因果的理解が可能になる。
• FiND世界の実用的近似としての歪められた世界は、因果的公平性制約下でMLモデルの訓練と評価を可能にする。
• 道徳的規定を通じて、等しい扱いではなく、差のない個々の人に公平だが不平等な扱い（垂直的公平性）を実現できる。
• 公平性の議論における曖昧さを減らすために、道徳的意思決定（例：公平性の目標の定義）と技術的ML実装を明確に分離する。