[論文レビュー] Principal Fairness for Human and Algorithmic Decision-Making

Kosuke Imai, Zhichao Jiang|arXiv (Cornell University)|May 21, 2020

Ethics and Social Impacts of AI参考文献 23被引用数 8

ひとこと要約

本稿は、異なる意思決定下での類似した潜在的結果を示す個人が等しく扱われるよう保証する、人間およびアルゴリズム意思決定における公平性基準「主成分公平性（principal fairness）」を導入する。因果推論における主成分層化（principal stratification）を活用することで、拘留または解放下での行動といった、共同潜在的結果に基づいて公平性を評価し、従来の統計的および反事後的公平性定義に対する因果的根拠に基づく代替定義を提供する。

ABSTRACT

Using the concept of principal stratification from the causal inference literature, we introduce a new notion of fairness, called principal fairness, for human and algorithmic decision-making. The key idea is that one should not discriminate among individuals who would be similarly affected by the decision. Unlike the existing statistical definitions of fairness, principal fairness explicitly accounts for the fact that individuals can be impacted by the decision. Furthermore, we explain how principal fairness differs from the existing causality-based fairness criteria. In contrast to the counterfactual fairness criteria, for example, principal fairness considers the effects of decision in question rather than those of protected attributes of interest. We briefly discuss how to approach empirical evaluation and policy learning problems under the proposed principal fairness criterion.

研究の動機と目的

• 意思決定の結果に及ぼす因果的効果を組み込むことにより、従来の統計的および反事後的公平性定義における限界を是正すること。
• 観察された特徴や保護属性ではなく、意思決定によって個人がどのように影響を受けるかに基づいて処遇を評価する公平性基準を形式化すること。
• 潜在的結果と主成分群を用いて、人間およびアルゴリズム的意思決定における公平性を評価する原理的フレームワークを提供すること。
• 観察可能なデータと同定式を用いて、提案された公平性基準に基づく実証的評価と政策学習を可能にすること。
• 反事後的等しいオッズや反事後的公平性といった、既存の因果に基づく公平性基準と主成分公平性を区別すること。

提案手法

• 主成分群を、意思決定下での両条件（処置および対照）における潜在的結果 $ R_i = (Y_i(1), Y_i(0)) $ として定義し、個人が処置と対照の両方の状況下でどのように影響を受けるかを表す。
• 処置 $ d=0,1 $ における潜在的結果 $ Y_i(d) $ を用いて、異なる意思決定下での反事後的行動をモデル化し、観察された結果を $ Y_i = Y_i(D_i) $ と表す。
• 主成分層化を用いて、個人を『安全』（$ R_i = (0,0) $）、『予防可能』（$ R_i = (0,1) $）、『危険』（$ R_i = (1,1) $）、『反動』（$ R_i = (1,0) $）といった層に分類する。
• 観察データと推定された傾向スコア $ e_r(m{V}_i, A_i) = ext{Pr}(R_i = r mid m{V}_i, A_i) $ を用いて、$ ext{Pr}(D_i=1 mid R_i=r, A_i) $ の同定式を導出する。
• 重み付き母集団推定を用いて、保護グループごとに主成分群内での意思決定確率を等しく保つことで、主成分公平性に基づく政策学習を提案する。
• 主成分公平性と既存の公平性基準との関係を確立し、反事後的等しいオッズを一般化していることを示す。これは、$ Y_i(0) $ のみに注目するのではなく、すべての潜在的結果を考慮しているためである。

実験結果

リサーチクエスチョン

• RQ1 意思決定が個人に及ぼす因果的影響を考慮に入れることで、意思決定における公平性をどのように再定義できるか。
• RQ2 統計的公平性や反事後的公平性といった既存の公平性定義と比較して、主成分公平性はどのような点で異なるか。
• RQ3 主成分群が観察できない状況下で、主成分公平性をどのように実証的に評価できるか。
• RQ4 主成分公平性は、政策学習およびアルゴリズム的推薦システムにどのような意味を持つか。
• RQ5 反事後的等しいオッズに比べて、主成分公平性はアルゴリズム的リスク評価をどのように改善するか。

主な発見

• 主成分公平性は、異なる意思決定下での個人の共同潜在的結果に基づいて公平性を定義し、応答パターンが類似する個人（すなわち、同じ反応パターンを示す個人）が等しく扱われるよう保証する。
• 本フレームワークは、保護属性の影響ではなく、意思決定そのものの影響に焦点を当てる点で、反事後的公平性とは異なる。
• 観察された共変量と推定された主成分群確率を用いて、$ ext{Pr}(D_i=1 mid R_i=r, A_i) $ の同定式を導出し、実証的評価を可能にする。
• 定理6は、各主成分群および保護グループ内での意思決定確率が重み付き期待値を用いて推定可能であることを示しており、公平性制約付きの政策学習を可能にする。
• 主成分公平性は、反事後的等しいオッズを一般化しており、$ Y_i(0) $ のみに注目するのではなく、すべての潜在的結果を考慮しているため、より包括的な公平性評価を提供する。
• 主成分公平性に基づく実証的評価では、観察された結果ではなく主成分群に条件づける必要があるため、現在のリスク評価評価手法における制限を浮き彫りにする。