[論文レビュー] Causal Interventions for Fairness

Matt J. Kusner, Chris Russell+2 more|arXiv (Cornell University)|Jun 6, 2018

Ethics and Social Impacts of AI参考文献 25被引用数 13

ひとこと要約

本論文は、資源配分（例：進学準備授業への資金配分）の最適化を通じて、privilegeに基づく利点を最小限に抑えることで、システム的意思決定における公平性を向上させるための因果的干渉フレームワークを提案する。干渉を含む構造的因果モデルを用い、歴史的に不利な立場にあった学校を優先する公平性に配慮した最適化を定式化した。ニューヨーク市の中学校データを用いた実証により、公平な干渉は全体の利益を損なわず、割り当ての多様性を向上させることを示した。

ABSTRACT

Most approaches in algorithmic fairness constrain machine learning methods so the resulting predictions satisfy one of several intuitive notions of fairness. While this may help private companies comply with non-discrimination laws or avoid negative publicity, we believe it is often too little, too late. By the time the training data is collected, individuals in disadvantaged groups have already suffered from discrimination and lost opportunities due to factors out of their control. In the present work we focus instead on interventions such as a new public policy, and in particular, how to maximize their positive effects while improving the fairness of the overall system. We use causal methods to model the effects of interventions, allowing for potential interference--each individual's outcome may depend on who else receives the intervention. We demonstrate this with an example of allocating a budget of teaching resources using a dataset of schools in New York City.

研究の動機と目的

• 公平な予測から、不平等の根本原因に取り組むシステムレベルの干渉に焦点を移すこと。
• 隣接単位の結果に依存する干渉を含む構造的因果モデルを用いて、公共政策の干渉効果をモデル化すること。
• 個人が保護される属性（例：人種）のおかげで受ける利益の程度を制限する公平性基準を設計すること。
• 予算制約の下で、全体の利益を最大化し、不公平な利点を最小限に抑えるように干渉を最適化すること。
• ニューヨーク市の中学校における大学進学準備資源の割り当てに、この手法を実世界のデータを用いて実証すること。

提案手法

• 干渉とその効果（特に隣接する学校の干渉に依存する学校の結果を含む）を表現するため、構造的因果モデル（SCMs）を用いる。
• 個人が保護される属性（例：人種）のおかげで受ける利益の程度を定量化する反事後的公平性指標を定義する。
• 特権的グループが干渉によって受ける利益の程度を制限するパラメータτを用いた公平性制約を導入する。
• 予算制約（B=25校）を満たしつつ、τパラメータを介して公平性を確保し、全体の利益を最大化する制約付き最適化問題を採用する。
• GISによる距離に基づく近隣効果を含む、人種別係数を有する構造方程式を用いて結果（例：SAT/ACT受験）をモデル化する。
• 実際のニューヨーク市の中学校データ（人種、距離、干渉指標を含む）を用い、ガウスノイズ仮定の下で最尤推定によりモデルパラメータを適合する。

実験結果

リサーチクエスチョン

• RQ1 公平な予測に依存せず、システム的結果における公平性を向上させる干渉をどのように設計できるか？
• RQ2 構造的不平等の影響により、教育制度における干渉が特権的グループに不均等に利益をもたらす程度はどの程度か？
• RQ3 隣接する学校の干渉に依存する結果を因果的公平性フレームワーク内でどのようにモデル化できるか？
• RQ4 資源配分において、全体の利益を最大化することと、特権に基づく利点を最小限に抑えることの間には、どのようなトレードオフがあるか？
• RQ5 公平性に配慮した最適化戦略は、教育資源の割り当てをより人種的に多様にすることができるか？

主な発見

• 公平な干渉モデル（τ = 0.046）は、北部布朗（North Bronx）や北部マンハッタンの低所得層に主に構成されるヒスパニック系およびブラック系学校に資源を割り当て、人種とは無関係に高い効用を持つ学校を優先した。
• τが増加した場合（τ = 0.084）、ブルックリンやクイーンズの大多数が白人系の学校に割り当てがシフトしたが、ヒスパニック系学校の数はほぼ同じであり、ブラック系学校の割り当ては減少した。
• 非公平なモデル（制約なし）は、すべての25の干渉をダウンタウン・マンハッタンおよび下部ブルックリンの大多数が白人系の学校に割り当て、歴史的に不利な立場の学校の多くを除外した。
• 公平なモデルが公平性を重視しても、τ = 0.046の設定下で非公平なモデルを上回る高い目的関数値を達成したため、公平性が必ずしも全体の利益を低下させることを意味しないことが示された。
• 公平なモデルの割り当ては、マンハッタンにおいて非公平なモデルの割り当てと空間的に近接しており、公平な干渉が完全な再構築を要せず、既存のパターンと併存できることを示唆している。
• この手法は、人種的バイアスではなく、地理的近接性や資源格差といった非人種的要因に基づいて、干渉によって最も利益を受ける学校を的確に同定できた。