[论文解读] Strategic Classification is Causal Modeling in Disguise

John A. Miller, Smitha Milli+1 more|arXiv (Cornell University)|Oct 23, 2019

Experimental Behavioral Economics Studies参考文献 32被引用 22

一句话总结

本文將策略分類視為偽裝的因果建模，表明設計能激勵真正改善而非操弄的分類器，需要解決非平凡的因果推斷問題。本文證明，任何成功的激勵設計都必須內在地涉及因果結構發現，揭示先前關於策略分類的研究隱含地依賴因果推理。

ABSTRACT

Consequential decision-making incentivizes individuals to strategically adapt their behavior to the specifics of the decision rule. While a long line of work has viewed strategic adaptation as gaming and attempted to mitigate its effects, recent work has instead sought to design classifiers that incentivize individuals to improve a desired quality. Key to both accounts is a cost function that dictates which adaptations are rational to undertake. In this work, we develop a causal framework for strategic adaptation. Our causal perspective clearly distinguishes between gaming and improvement and reveals an important obstacle to incentive design. We prove any procedure for designing classifiers that incentivize improvement must inevitably solve a non-trivial causal inference problem. Moreover, we show a similar result holds for designing cost functions that satisfy the requirements of previous work. With the benefit of hindsight, our results show much of the prior work on strategic classification is causal modeling in disguise.

研究动机与目标

• 正式區分策略分類中的操弄（透過操弄預測而不改變結果）與改善（改變實際結果）。
• 證明設計能激勵改善的分類器，必須解決非平凡的因果推斷問題。
• 表明為策略分類構建結果單調的成本函數，同樣需要因果建模。
• 建立從因果圖發現到激勵設計問題的正式歸約，證明因果推理是不可避免的。

提出的方法

• 建立一個因果框架，將個人適應建模為結構性因果模型（SCM）中的介入，其中包含特徵 $X$、預測器 $\hat{Y}$ 和目標 $Y$。
• 使用反事實推理定義改善為提高真實標籤 $Y$ 的介入，而操弄僅影響 $\hat{Y}$。
• 引入「處理對受 treated 者的影響」概念，作為因果框架中改善的正式類比。
• 證明任何激勵改善的程序都必須透過計算高效的歸約，解決因果發現問題。
• 建立從因果圖方向歸定到結果單調成本函數問題的歸約，顯示其計算難度的等價性。
• 使用具有線性結構方程的範例模型，展示成本函數評估如何識別因果特徵及其係數符號。

实验结果

研究问题

• RQ1 能否在策略分類中建立操弄與改善之間的正式區分？
• RQ2 設計能激勵真正改善的分類器時，因果建模是否不可避免？
• RQ3 能否將設計結果單調成本函數的問題歸約至因果發現？
• RQ4 激勵設計與因果結構學習之間的計算關係為何？
• RQ5 如何利用成本函數推斷特徵與標籤之間的因果關係？

主要发现

• 任何成功激勵改善的方法都必須解決非平凡的因果推斷問題，此點透過從因果圖發現到激勵設計的歸約得以證明。
• 構建符合先前要求的結果單調成本函數，同樣需要解決因果推斷問題，此點透過歸約得以證明。
• 因果框架正式定義改善為提高真實標籤 $Y$ 的反事實值的介入，從而與僅影響 $\hat{Y}$ 的操弄區分開來。
• 在具有 $n$ 個因果特徵與 $m$ 個非因果特徵的線性模型中，$2(n+m)$ 次成本函數評估足夠識別因果特徵及其係數符號。
• 透過單一對結果單調成本查詢的調用，可確定因果圖中邊 $X_i \to X_j$ 的方向，建立成本函數查詢與因果結構之間的直接連結。
• 研究結果顯示，先前關於策略分類的研究雖未明確採用因果方法，但隱含地依賴因果推理，因此可謂『偽裝的因果建模』。