[論文レビュー] PC-Fairness: A Unified Framework for Measuring Causality-based Fairness

Yongkai Wu, Lu Zhang+2 more|arXiv (Cornell University)|Oct 20, 2019

Ethics and Social Impacts of AI被引用数 42

ひとこと要約

本論文は PC fairness を提案し、統一された、経路特異的反事実フェアネスのフレームワークと、応答関数変数によって推進される同定不能な因果シナリオ下で PC fairness を境界付ける線形計画法を提案する。

ABSTRACT

A recent trend of fair machine learning is to define fairness as causality-based notions which concern the causal connection between protected attributes and decisions. However, one common challenge of all causality-based fairness notions is identifiability, i.e., whether they can be uniquely measured from observational data, which is a critical barrier to applying these notions to real-world situations. In this paper, we develop a framework for measuring different causality-based fairness. We propose a unified definition that covers most of previous causality-based fairness notions, namely the path-specific counterfactual fairness (PC fairness). Based on that, we propose a general method in the form of a constrained optimization problem for bounding the path-specific counterfactual fairness under all unidentifiable situations. Experiments on synthetic and real-world datasets show the correctness and effectiveness of our method.

研究の動機と目的

• 既存の因果ベースの公正性の概念を網羅する、経路特異的反事実公正性（PC fairness）の統一的定義を提案する。
• すべての因果効果を経路特異的反事実効果として表現し、適用範囲を広げる。
• 識別性の問題に対処するため、制約付き最適化アプローチにより同定不能な状況でPC fairnessを境界付ける。
• 与えられた因果グラフを前提としつつ、隠れ混乱因子と任意のデータ生成過程を許容するフレームワークを開発する。

提案手法

• 経路特異的反事実効果と PC fairness の形式化を導入する。
• すべての乱数性を捉え、可能なモデルを横断するために応答関数変数で因果モデルをパラメータ化する。
• 観測分布と経路特異的反事実量を応答関数分布の線形関数として表現する。
• 観測制約の下で、PC fairnessの境界を最小化または最大化する線形計画問題を定式化する。
• さまざまな同定不能なグラフ構造の下で制約付き最適化問題を解くことにより PC fairness の厳密な境界を提供する。

実験結果

リサーチクエスチョン

• RQ1 PC fairness は既存の因果ベースの公正性概念をどのように包含し、統一できるか。
• RQ2 同定不能性が存在する場合に経路特異的反事実公正性をどのように境界付けできるか。
• RQ3 応答関数ベースのパラメータ化は、異なるグラフ構造に対して厳密で扱いやすい境界を生み出すか。
• RQ4 隠れ混乱因子や一般的なデータ生成過程を偏りなく組み込むことができるか。

主な発見

• PC fairness は、ほとんどの従来の因果ベースの公正性概念を特殊ケースとして表現できる。
• 制約付き最適化アプローチは、同定不能な条件下で経路特異的反事実公正性に対して厳密で独自の境界をもたらす。
• 応答関数変数の形式は、境界を導くためにすべての適合する因果モデルを明示的に横断することを可能にする。
• 合成データと実世界データの実験は、この手法が PC fairness の境界を正確に提供し、厳密さの点で従来の境界手法を上回る可能性を示した。
• このフレームワークは、隠れ混乱因子の独立性やデータ生成過程の線形性を仮定しなくても有効である。