[論文レビュー] Strategic Classification is Causal Modeling in Disguise

John A. Miller, Smitha Milli+1 more|arXiv (Cornell University)|Oct 23, 2019

Experimental Behavioral Economics Studies参考文献 32被引用数 22

ひとこと要約

この論文は、戦略的分類を、本質的に因果モデルの隠れ形態として提示し、真の改善（gamingではなく）を促進する分類器を設計するには、非自明な因果推論問題を解く必要があることを示している。また、いかなる成功したインcentive設計も、本質的に因果構造の同定を含む必要があることを証明しており、従来の戦略的分類に関する研究は、暗黙のうちに因果的推論に依存していることが明らかになった。

ABSTRACT

Consequential decision-making incentivizes individuals to strategically adapt their behavior to the specifics of the decision rule. While a long line of work has viewed strategic adaptation as gaming and attempted to mitigate its effects, recent work has instead sought to design classifiers that incentivize individuals to improve a desired quality. Key to both accounts is a cost function that dictates which adaptations are rational to undertake. In this work, we develop a causal framework for strategic adaptation. Our causal perspective clearly distinguishes between gaming and improvement and reveals an important obstacle to incentive design. We prove any procedure for designing classifiers that incentivize improvement must inevitably solve a non-trivial causal inference problem. Moreover, we show a similar result holds for designing cost functions that satisfy the requirements of previous work. With the benefit of hindsight, our results show much of the prior work on strategic classification is causal modeling in disguise.

研究の動機と目的

• 戦略的分類における『gaming（結果を変えることなく予測を操作すること）』と『改善（実際に結果を変えること）』の明確な形式的区別を確立すること。
• 真の改善を促進する分類器を設計するには、非自明な因果推論問題を解く必要があることを示すこと。
• 戦略的分類における結果単調性を持つコスト関数を構築するのにも、因果モデリングが必要であることを示すこと。
• 因果グラフ同定問題からインcentive設計問題への形式的還元を確立し、因果的推論が避けられないことを証明すること。

提案手法

• 個々の適応を、特徴量 $X$、予測子 $\hat{Y}$、および目的変数 $Y$ を持つ構造的因果モデル（SCM）における干渉としてモデル化する因果フレームワークを構築する。
• 反事後的推論を用いて、改善を真のラベル $Y$ を増加させる干渉として定義し、gaming は $\hat{Y}$ のみに影響することを明確にする。
• 因果フレームワークにおける改善の正式な類似物として、『治療の効果（Treated に対する効果）』の概念を導入する。
• いかなる改善を促進する手続きも、計算的に効率的な還元を介して、因果同定問題を解く必要があることを証明する。
• 因果グラフの方向性決定問題から結果単調性コスト関数問題への還元を構築し、計算的難易度の同等性を示す。
• 線形構造方程式を用いた例モデルを通じて、コスト関数の評価が因果的特徴量および係数の符号を同定できる方法を示す。

実験結果

リサーチクエスチョン

• RQ1 戦略的分類において、gaming と改善の形式的区別を確立できるか？
• RQ2 真の改善を促進する分類器を設計する際、因果モデリングは避けられないか？
• RQ3 結果単調性コスト関数の設計問題は因果同定問題に還元可能か？
• RQ4 インcentive設計と因果構造学習の間の計算的関係は何か？
• RQ5 コスト関数をどのように用いることで、特徴量とラベルの間の因果関係を推定できるか？

主な発見

• 因果グラフ同定問題からインcentive設計問題への還元により、いかなる改善を促進する手法も、非自明な因果推論問題を解く必要があることが示された。
• 従来の要件を満たす結果単調性コスト関数を設計するのにも、因果推論問題を解く必要があることが、還元によって実証された。
• 因果フレームワークは、真のラベル $Y$ の反事後的値を増加させる干渉として、改善を形式的に定義しており、gaming が $\hat{Y}$ のみに影響するのとは明確に区別される。
• $n$ 個の因果的特徴量と $m$ 個の非因果的特徴量を持つ線形モデルでは、$2(n+m)$ 回のコスト関数評価で因果的特徴量とその係数の符号を特定するのに十分である。
• 因果グラフにおけるエッジ $X_i \to X_j$ の方向性は、1回の結果単調性コストオラクル呼び出しで特定可能であり、コスト関数クエリと因果構造の間の直接的な関係を確立する。
• 本研究の結果は、従来の戦略的分類に関する研究は、明示的に因果的であるとは述べていなかったが、暗黙のうちに因果的推論に依存しており、本質的に「因果モデリングの隠れ形態」であることを示している。