[論文レビュー] Causal Modeling for Fairness in Dynamical Systems

Elliot Creager, David Madras+2 more|arXiv (Cornell University)|Sep 18, 2019

Advanced Causal Inference Techniques参考文献 35被引用数 10

ひとこと要約

本稿では、動的システムにおける公平性をモデル化する統一的枠組みとして、因果的有向非巡回グラフ（DAG）を提案する。これにより、集団および個人レベルにおける短期的・長期的結果に対して介入分析が可能になる。実証的に、システムのダイナミクスが未知の場合、因果モデリングがオフポリシー推定を改善することを示し、ダイナミクスが既知の場合には柔軟なシミュレータとして機能することが明らかになった。主な結果として、特に弱い立場のグループにおける結果予測の仮定に、ポリシーのロバストネスが極めて敏感であることが示された。

ABSTRACT

In many application areas---lending, education, and online recommenders, for example---fairness and equity concerns emerge when a machine learning system interacts with a dynamically changing environment to produce both immediate and long-term effects for individuals and demographic groups. We discuss causal directed acyclic graphs (DAGs) as a unifying framework for the recent literature on fairness in such dynamical systems. We show that this formulation affords several new directions of inquiry to the modeler, where causal assumptions can be expressed and manipulated. We emphasize the importance of computing interventional quantities in the dynamical fairness setting, and show how causal assumptions enable simulation (when environment dynamics are known) and off-policy estimation (when dynamics are unknown) of intervention on short- and long-term outcomes, at both the group and individual levels.

研究の動機と目的

• 因果的有向非巡回グラフ（DAG）を用いて、動的システムにおける公平性に関する散在する文献を統一すること。
• 環境のダイナミクスが既知である場合に、ポリシー介入のシミュレーションを可能にすること。
• システムのダイナミクスが未知である場合に、観測データと因果的仮定を用いて、オフポリシー推定と学習を改善すること。
• モデル拡張と感度分析を通じて、長期的公平性への影響を分析すること。
• 特に結果予測のモデルミススペシフィケーションに対して、ポリシーのロバストネスを評価すること。

提案手法

• 内生的および外生的ノード、構造的因果モデル（SCM）の構造方程式を用いて、動的システムにおける公平性を形式化する。
• do演算子を用いて介入分布を計算し、観測的条件付き確率とは区別する。
• 時間ステップごとの意思決定ルールの変更をシミュレートするために、ポリシー介入（do(f_T → π)）を適用する。
• 状態変数の再帰的更新（例：X^{t+1} = f_X(X^t, Y^t, T^t)）により、SCMを多段階モデルに拡張する。
• 構造方程式への介入（例：do(f_Y → f̂_Y)）を用いた感度分析により、モデルミススペシフィケーションに対するロバストネスを評価する。
• SCMのモジュラリティを活用して、長期的影響のシミュレーションと分布シフト下でのポリシー性能評価を実現する。

実験結果

リサーチクエスチョン

• RQ1 因果的DAGは、多様な応用分野における動的システムにおける公平性を統一的枠組みとしてどのように機能するか？
• RQ2 短期的には公平に見えるポリシーが、長期的にはどのような公平性への影響を及ぼすか？
• RQ3 システムのダイナミクスが未知である場合、因果モデルはどのようにオフポリシー推定を改善するか？
• RQ4 結果予測におけるモデルミススペシフィケーションは、ポリシーのロバストネスと公平性にどのように影響するか？
• RQ5 機関の利益と集団レベルの結果は、構造方程式に関する仮定に対してどの程度感受的か？

主な発見

• 機関の利益は、モデルミススペシフィケーションに対して相対的にロバストであり、特に治療関数への介入（do(f_T → f̂_T^EO)）において顕著である。
• 集団ごとの結果の変化は、モデルミススペシフィケーションに対して著しく感受的であり、特にXの条件付き分布p(Y|X)をY|X,Aの正しい分布p(Y|X,A)に誤って使用した場合に顕著である。
• 再帰的SCM拡張を用いた長期的影響のシミュレーションは実現可能であり、A依存のT^tおよびY^tダイナミクスによって、集団レベルの格差が持続することが明らかになった。
• 構造方程式への介入（例：do(f_Y → f̂_Y)）を用いた感度分析により、結果予測に関する誤った仮定に対するポリシーの脆弱性を効果的に定量化できる。
• 因果的枠組みにより、モデルの体系的拡張と分析が可能となり、オンポリシー評価と分布シフト下でのロバストネステストの両方を支援する。
• 特にダイナミクスが未知の場合に、観測データと明示的な因果的仮定を活用することで、因果モデリングがオフポリシー学習と推定を強化することが示された。