[论文解读] Strategic Adaptation to Classifiers: A Causal Perspective

John A. Miller, Smitha Milli+1 more|arXiv (Cornell University)|Oct 23, 2019

Experimental Behavioral Economics Studies被引用 5

一句话总结

本文提出了一种用于建模决策中策略性适应的因果框架，区分了博弈（操纵输入）与改进（真正的行为改变）。研究表明，激励改进对决策者有利，并将设计激励的复杂性降低为因果推断问题。

ABSTRACT

Consequential decision-making incentivizes individuals to adapt their behavior to the specifics of the decision rule. A long line of work has therefore sought to understand and anticipate adaptation, both to prevent strategic individuals from the decision rule and to explicitly motivate individuals to improve. In this work, we frame the problem of adaptation as performing interventions in a causal graph. With this causal perspective, we make several contributions. First, we articulate a formal distinction between gaming and improvement. Second, we formalize strategic classification in a new way that recognizes that the individual may improve, rather than only game. In this setting, we show that it is beneficial for the decision-maker to incentivize improvement. Third, we give a reduction from causal inference to designing incentivizes for improvement. This shows that designing good incentives, while desirable, is at least as hard as causal inference.

研究动机与目标

• 将决策中的策略行为形式化为因果图中的干预。
• 澄清博弈（利用规则漏洞）与改进（真正的行为提升）之间的区别。
• 重新构想策略分类，使博弈和改进均可作为个体可能的响应。
• 证明激励改进对决策者具有战略优势。
• 建立从激励设计到因果推断的归约，表明前者至少与后者具有相同的计算复杂度。

提出的方法

• 将个体适应建模为结构因果模型（SCM）中的干预，表示个体如何根据决策规则改变其特征。
• 将博弈定义为通过操纵特征来利用决策规则的行为，将改进定义为真正改变潜在结果分布的变化。
• 使用潜在结果和反事实推理，形式化个体行为对分类结果的影响。
• 提出一个框架，使决策者能够设计激励，引导个体选择改进而非博弈。
• 将设计有效激励的问题归约为因果推断问题，证明两者在计算复杂度上等价。
• 应用 do-演算和干预语义，分析激励对结果分布的影响。

实验结果

研究问题

• RQ1 如何在决策背景下正式区分博弈与改进？
• RQ2 允许个体改进其特征而非仅博弈系统，会产生何种战略后果？
• RQ3 在何种条件下，决策者激励改进而非博弈是最优的？
• RQ4 设计改进激励的复杂性与因果推断的复杂性有何关系？
• RQ5 激励设计能否在形式因果模型中归约为因果推断问题？

主要发现

• 本文正式区分了博弈——即为利用决策规则而故意操纵特征的行为——与改进，后者涉及真正的行为增强。
• 激励改进可为决策者带来更优的长期结果，因为它使个体激励与真实目标保持一致。
• 设计有效改进激励的问题至少与因果推断一样困难，确立了计算下界。
• 策略分类可被有意义地重新解释，使改进成为一种有效的响应，而不仅限于博弈。
• 因果框架使决策者能够通过精心设计的干预，预测并塑造个体行为。
• 从激励设计到因果推断的归约表明，解决后者是解决前者所必需的。