[论文解读] Algorithmic Decision Making in the Presence of Unmeasured Confounding

Jongbin Jung, Ravi Shroff+2 more|arXiv (Cornell University)|May 4, 2018

Advanced Causal Inference Techniques参考文献 33被引用 14

一句话总结

本文提出了一种灵活的贝叶斯敏感性分析框架，用于在存在未测量混杂因素的情况下评估算法决策策略，即使忽略性假设不成立，也能实现稳健的策略评估和近似最优策略构建。该方法推广了异质性处理效应估计，并在合成数据集和真实司法保释数据集上表现出色，优于经典敏感性方法，且表明尽管存在未测量混杂因素，风险排序依然准确。

ABSTRACT

On a variety of complex decision-making tasks, from doctors prescribing treatment to judges setting bail, machine learning algorithms have been shown to outperform expert human judgments. One complication, however, is that it is often difficult to anticipate the effects of algorithmic policies prior to deployment, making the decision to adopt them risky. In particular, one generally cannot use historical data to directly observe what would have happened had the actions recommended by the algorithm been taken. One standard strategy is to model potential outcomes for alternative decisions assuming that there are no unmeasured confounders (i.e., to assume ignorability). But if this ignorability assumption is violated, the predicted and actual effects of an algorithmic policy can diverge sharply. In this paper we present a flexible, Bayesian approach to gauge the sensitivity of predicted policy outcomes to unmeasured confounders. We show that this policy evaluation problem is a generalization of estimating heterogeneous treatment effects in observational studies, and so our methods can immediately be applied to that setting. Finally, we show, both theoretically and empirically, that under certain conditions it is possible to construct near-optimal algorithmic policies even when ignorability is violated. We demonstrate the efficacy of our methods on a large dataset of judicial actions, in which one must decide whether defendants awaiting trial should be required to pay bail or can be released without payment.

研究动机与目标

• 解决在观测数据中未测量混杂因素导致反事实结果估计偏差时，评估算法策略的挑战。
• 开发一种灵活的贝叶斯方法，量化策略结果对未测量混杂因素的敏感性，而无需显式指定敏感性参数。
• 即使在忽略性假设不成立的情况下，通过聚焦于准确的风险排序而非精确的风险估计，证明可构建近似最优的决策策略。
• 将该方法推广至观测研究中的异质性处理效应估计，扩展其在策略评估之外的应用范围。
• 在大规模合成司法保释决策数据集上实证验证该方法，证明其对未测量混杂因素具有鲁棒性。

提出的方法

• 该方法采用贝叶斯分层模型，联合估计潜在结果，并通过弱信息先验和表达性强的数据生成过程来处理未测量混杂因素。
• 使用黑箱贝叶斯推断（如变分推断）计算后验分布，避免了难以解析计算的问题。
• 该框架同时建模处理分配和潜在结果，允许对合理的未测量混杂因素结构进行敏感性分析。
• 通过指定适当的似然函数和链接函数，该方法可推广至连续、二值或多项式处理和结果。
• 通过在未测量混杂因素效应上设定先验分布来量化敏感性，这些先验编码了领域知识，而无需固定敏感性参数。
• 通过使用后验预测分布模拟不同决策规则下的反事实结果，实现离线策略评估。

实验结果

研究问题

• RQ1 我们是否可以在不假设忽略性的情况下，评估存在未测量混杂因素时的算法策略效果？
• RQ2 当忽略性假设被违反时，我们能在多大程度上构建近似最优的决策规则？
• RQ3 与经典非贝叶斯敏感性方法相比，所提出的贝叶斯敏感性分析在准确性和鲁棒性方面表现如何？
• RQ4 风险排序——对策略构建至关重要——是否即使在真实风险估计因未测量混杂因素而偏差时，依然保持准确？
• RQ5 该方法是否可推广至观测研究中的异质性处理效应估计？

主要发现

• 在存在未测量混杂因素的合成数据集中，该贝叶斯敏感性分析方法准确恢复了真实策略效果和子群体水平的处理效应，优于经典非贝叶斯敏感性技术。
• 在所有测试条件下，仅基于观测结果（无完整反事实知识）构建的策略与基于真实潜在结果推导出的最优策略几乎完全一致，表明对未测量混杂因素具有鲁棒性。
• 即使在忽略性假设被违反的情况下，该方法仍成功恢复了近似最优的决策规则，证明了在无需完美风险估计的情况下，准确风险排序是可能的。
• 当应用于平均处理效应（ATE）这一特殊情况时，该方法在性能上优于针对ATE估计专门设计的最先进方法。
• 使用弱信息先验和灵活的模型形式，使该方法在先验信息与不确定性之间取得平衡，避免了显式指定敏感性参数的需要。
• 由于采用黑箱推断，该框架可推广至复杂处理和结果类型（如连续型或多项式类型），且建模开销极小。