[論文レビュー] Causal Reasoning for Algorithmic Fairness

Joshua R. Loftus, Chris Russell+2 more|arXiv (Cornell University)|May 15, 2018

Ethics and Social Impacts of AI参考文献 33被引用数 79

ひとこと要約

この論文は、公平性を定義しアルゴリズム的意思決定で達成するために因果推論を組み込むことを提案し、既存の公平性の概念をレビューし、反事実フェアネスを含む因果推論ベースのアプローチを概説する。

ABSTRACT

In this work, we argue for the importance of causal reasoning in creating fair algorithms for decision making. We give a review of existing approaches to fairness, describe work in causality necessary for the understanding of causal approaches, argue why causality is necessary for any approach that wishes to be fair, and give a detailed analysis of the many recent approaches to causality-based fairness.

研究の動機と目的

• 公平な意思決定システムにおける因果推論の必要性を主張する
• 既存の公平性の概念（等化オッズ、キャリブレーション、人口統計学的パリティ、個別の公平性）とそれらの限界をレビューする
• 公平性のための因果ツール（構造因果モデル、介入、反事実）を導入・詳述する
• 最近の因果ベースの公平性アプローチを概観し、それらが反事実フェアネスなどの公平性概念とどのように組み合わさるかを示す
• 公正な予測モデルを設計する際の介入と因果仮定の役割を強調する

提案手法

• 公平性の定義とその統計的性質の概要を提示する（等化オッズ、キャリブレーション、人口統計学的パリティ、個別の公平性）
• 構造的因果モデル（SCM）と do 演算子を導入して介入と反事実を形式化する
• 反事実フェアネスを定義し、それが一般的な公平性概念とどのように関連するかを示す
• 選択バイアスと因果グラフがバイアス下の公平性を推論するのにどう役立つかを論じる
• 公平性における因果推論を分類する枠組みを提供する（個別対集団、明示的対暗黙の方程式、予測対説明）
• 最近の因果ベースの公平性アプローチを概観し、接続する

実験結果

リサーチクエスチョン

• RQ1 古典的な公平性の概念は因果推論とどのように関連し、現実の偏ったデータにおいてどのような限界があるか？
• RQ2 SCM、介入、反事実をどのように用いて公正な予測を定義し達成できるか？
• RQ3 反事実フェアネスとは何か、そしてそれが人口統計的パリティや等化オッズとどのように関連するか？
• RQ4 公平性における因果推論を分類する枠組みは何があり、方法設計にどんな実践的指針を提供するか？
• RQ5 選択バイアスと因果経路がアルゴリズム公平性の評価と確保にどのような役割を果たすか？

主な発見

• 因果性は、領域を超えて予測システムの偏りを理解・緩和するために不可欠であると主張される
• 反事実フェアネスは、個人レベルの評価と整合する具体的な因果基準を提供する
• 等化オッズやキャリブレーションなどの整合性は、特定の条件がない限り同時には満たせず、限界を強調する
• モデルの決定論的または暗黙の因果仮定は、公平性のために純粋にデータ駆動の共変量調整より有益であることがある
• 介入と do 演算子は、意思決定が結果に与える影響を理性的に推論し、公正な方針を設計するための原理的な方法を提供する
• 本論文は因果フェアネス概念を、既存の非因果的概念（人口統計学的パリティ、個別の公平性、等化オッズ）と結び付け、同等性と相違点を照明する