[論文レビュー] Avoiding Discrimination through Causal Reasoning

Niki Kilbertus, Mateo Rojas-Carulla+4 more|arXiv (Cornell University)|Jun 8, 2017

Ethics and Social Impacts of AI参考文献 14被引用数 178

ひとこと要約

本論文は因果推論を通じて機械学習の公正性を再定義し、解決変数とプロキシ変数を導入し、指定された因果モデルの下で proxy および未解決の差別を避ける介入ベースの基準とアルゴリズムを提案する。

ABSTRACT

Recent work on fairness in machine learning has focused on various statistical discrimination criteria and how they trade off. Most of these criteria are observational: They depend only on the joint distribution of predictor, protected attribute, features, and outcome. While convenient to work with, observational criteria have severe inherent limitations that prevent them from resolving matters of fairness conclusively. Going beyond observational criteria, we frame the problem of discrimination based on protected attributes in the language of causal reasoning. This viewpoint shifts attention from "What is the right fairness criterion?" to "What do we want to assume about the causal data generating process?" Through the lens of causality, we make several contributions. First, we crisply articulate why and when observational criteria fail, thus formalizing what was before a matter of opinion. Second, our approach exposes previously ignored subtleties and why they are fundamental to the problem. Finally, we put forward natural causal non-discrimination criteria and develop algorithms that satisfy them.

研究の動機と目的

• 観測的な公正性基準の限界を明確化し、差別の因果基準を正式化する。
• 因果グラフにおける保護属性とそれらのプロキシを区別する。
• 介入に基づく自然な因果基準を導入し、差別の形態を記述する。
• 線形因果モデル下でプロキシ差別を除去するアルゴリズムを開発・例示する。

提案手法

• 保護属性、プロキシ、特徴量、および予測子を含むデータ生成過程を表す因果グラフと構造方程式モデルを導入する。
• グラフ内の解決変数およびプロキシ変数に関連して、未解決の差別とプロキシ差別を定義する。
• do-計算を用いたプロキシ差別の介入ベースの定義を提案し、線形モデルにおけるそれを除去する条件を導出する。
• 非差別制約を満たすよう予測子を変更する手順ガイド（および具体的な線形例）を提供する。
• デモグラフィックパリティや同等確率など既存の公正性概念との関係を論じ、介入基準が個別公正の概念とどのように関連するかを示す。

実験結果

リサーチクエスチョン

• RQ1 観測的公正性基準は因果的に特定の差別的事象を区別できないのはなぜか？
• RQ2 プロキシ変数や解決変数に対する介入をどのように formal に特徴づけし、予測における差別を防ぐことができるか？
• RQ3 与えられた因果構造の下で、予測子がプロキシ差別も未解決差別も示さないようにする実践的手続きは何か？
• RQ4 プロキシ差別の基準は他の公正性概念や個別公正とどう関連するか？

主な発見

• 観測的基準は一般に、予測子が未解決差別を示すかどうかを決定できない。たとえベイズ最適予測子であっても。
• 解決変数とプロキシを区別する因果フレームワークは、公正な意思決定の微妙な点を露呈し、介入に基づく自然な差別基準を支持する。
• プロキシに介入し、予測子を再表現して望ましくない因果経路を打ち消すことにより、線形因果モデルでプロキシ差別を除去する手続きが存在する。
• 適切な表現力仮定の下で、予測子が潜在的なプロキシ差別を持つ特徴を利用できるようにしつつ、プロキシ差別を除去可能である。
• 未解決差別は、予測子が特定の変数にアクセスできない限り、単純な調整だけで常に排除できるとは限らず、 purely observational adjustments の限界を浮き彫りにする。