[論文レビュー] Learning Optimal Fair Policies

Razieh Nabi, Daniel Malinsky+1 more|arXiv (Cornell University)|Sep 6, 2018

Experimental Behavioral Economics Studies参考文献 24被引用数 22

ひとこと要約

本論文は、感受性属性（例：人種、性別）に関して公平であることを保証する最適意思決定ポリシーを学習するための因果推論と制約付き最適化フレームワークを提案する。意思決定と結果の両方における公平性を確保するため、感受性特徴から行動および結果への不公平な因果経路を形式的に制約し、期待効用を最大化する一方で、誘導される連関分布が公平性制約を満たすことを保証することで、データ駆動型政策立案における『不正の循環』を断ち切る。

ABSTRACT

Systematic discriminatory biases present in our society influence the way data is collected and stored, the way variables are defined, and the way scientific findings are put into practice as policy. Automated decision procedures and learning algorithms applied to such data may serve to perpetuate existing injustice or unfairness in our society. In this paper, we consider how to make optimal but fair decisions, which "break the cycle of injustice" by correcting for the unfair dependence of both decisions and outcomes on sensitive features (e.g., variables that correspond to gender, race, disability, or other protected attributes). We use methods from causal inference and constrained optimization to learn optimal policies in a way that addresses multiple potential biases which afflict data analysis in sensitive contexts, extending the approach of (Nabi and Shpitser 2018). Our proposal comes equipped with the theoretical guarantee that the chosen fair policy will induce a joint distribution for new instances that satisfies given fairness constraints. We illustrate our approach with both synthetic data and real criminal justice data.

研究の動機と目的

• 感受性属性（例：人種や性別）に基づいて不公平な結果を繰り返すデータ駆動型政策学習におけるシステム的バイアスに対処すること。
• 感受性特徴から意思決定および結果への特定の因果経路に対する公平性を制約として形式化すること。
• 公平性制約下で最適なポリシーを学習し、高い効用を維持するとともに、誘導される連関分布における公平性の理論的保証を得る手法を開発すること。
• 合成データおよび実世界の刑事司法データを用いて、ヒューリスティックな効用関数を用いて、本手法の有効性を示すこと。
• 公平なポリシー学習が、全体のポリシー品質を犠牲にすることなく、収監率における人種的格差を低減できることを示すこと。

提案手法

• 構造的因果モデルを用いて、感受性特徴が意思決定および結果に与える影響を因果推論でモデル化する。
• 中間効果分析を適用し、感受性属性（S）から行動（A）および結果（Y）への直接的および間接的因果経路を同定・制約する。
• 感受性特徴が行動（S→A）および結果（S→Y）に与える影響を防ぐために、公平性制約を課す。
• 期待効用を最大化しつつ公平性制約を満たすポリシーを学習するために、制約付き最適化を用いる。
• Q学習を用い、パラメトリック効用関数 Y = (1−A)(−θR + (1−R)) − A を用いて、公平性制約下での期待効用を最適化する。
• モデル不適合下でも頑健性と理論的保証を得るために、半パラメトリック推定技術を適用する。

実験結果

リサーチクエスチョン

• RQ1 感受性属性に関して公平でありつつも高い効用を達成する最適なポリシーをどのように学習できるか？
• RQ2 意思決定および結果への感受性特徴からのどの因果経路を制約する必要があるか、公平性を確保するためか？
• RQ3 公平なポリシーが誘導する連関分布が、指定された公平性制約を満たすことを保証できるか？
• RQ4 効用関数の選択が、実世界の設定における公平性とポリシー性能のトレードオフにどのように影響するか？
• RQ5 公平なポリシー学習は、刑事司法制度における収監率の差をどの程度低減できるか？

主な発見

• 提案手法は、公平性制約を満たす連関分布を誘導するポリシーを効果的に学習でき、意思決定における『不正の循環』を実際に断ち切ることに成功した。
• θが2から3の間では、観察されたレートと比較して、全体の収監率が低下し、人種的格差も縮小するが、完全に解消はしない。
• θ > 3 の場合、公平なポリシーと制約なしのポリシーの両方が、観察値を上回る収監率を推奨するが、公平なポリシーは依然として人種的格差が狭い。
• 公平なポリシーは、さまざまな効用パrameter値の範囲で一貫して収監率における人種的格差を低減し、バイアス低減の有効性を示している。
• 本手法は実際の刑事司法データでも良好に機能し、ポリシー品質を犠牲にすることなく、公平性制約を実務的に実装可能であることを示している。
• 結果から、効用関数の選択がポリシーの結果に顕著に影響することが明らかとなり、公平性に配慮したポリシー学習における効用関数の慎重な定式化の重要性が強調された。