[论文解读] Valid Causal Inference with (Some) Invalid Instruments

Jason Hartford, Victor Veitch+2 more|Research Explorer (The University of Manchester)|Jun 19, 2020

Advanced Causal Inference Techniques参考文献 27被引用 6

一句话总结

本文提出ModeIV，一种稳健的工具变量方法，可在大量工具变量违反排除限制时仍实现一致的因果推断。通过利用多个候选工具变量之间的典型（多数）关系，ModeIV在无需所有工具变量均有效的情况下估计因果效应，且与基于机器学习的估计器兼容，适用于非线性、异质性处理效应的场景。

ABSTRACT

Instrumental variable methods provide a powerful approach to estimating causal effects in the presence of unobserved confounding. But a key challenge when applying them is the reliance on untestable "exclusion" assumptions that rule out any relationship between the instrument variable and the response that is not mediated by the treatment. In this paper, we show how to perform consistent IV estimation despite violations of the exclusion assumption. In particular, we show that when one has multiple candidate instruments, only a majority of these candidates---or, more generally, the modal candidate-response relationship---needs to be valid to estimate the causal effect. Our approach uses an estimate of the modal prediction from an ensemble of instrumental variable estimators. The technique is simple to apply and is "black-box" in the sense that it may be used with any instrumental variable estimator as long as the treatment effect is identified for each valid instrument independently. As such, it is compatible with recent machine-learning based estimators that allow for the estimation of conditional average treatment effects (CATE) on complex, high dimensional data. Experimentally, we achieve accurate estimates of conditional average treatment effects using an ensemble of deep network-based estimators, including on a challenging simulated Mendelian Randomization problem.

研究动机与目标

• 解决工具变量（IV）方法中的关键挑战：排除限制不可检验，即假设工具变量对结果的影响仅通过处理变量传递。
• 放宽所有工具变量必须有效的限制，允许多数或典型子集的工具变量有效，同时仍能实现一致的因果估计。
• 开发一种与任何现有IV估计器兼容的黑箱方法，包括用于估计条件平均处理效应（CATE）的现代基于机器学习的方法。
• 在较弱的典型有效性假设下，为因果推断提供理论保证，即最频繁的工具变量-结果关系是有效的。
• 在高维、非线性场景中展示经验上的稳健性，包括低信噪比的复杂孟德尔随机化模拟。

提出的方法

• 提出一种新方法ModeIV，通过聚合多个IV估计器的预测结果，并选择其中出现频率最高的预测（即众数）来估计因果效应。
• 使用一组IV估计器，每个估计器分别应用于不同的候选工具变量，以生成处理效应函数 $ f(t,x) $ 的个体估计。
• 应用一种众数查找程序，识别集合中出现最频繁的估计值，假设当多数工具变量有效时，该众数估计对应于真实因果效应。
• 通过将方法视为一种黑箱后处理步骤，确保与任何IV估计器兼容，该步骤聚合来自独立IV估计结果的输出。
• 理论基础建立在工具变量与结果之间典型关系有效的假设之上，即使单个工具变量可能无效。
• 在典型有效性假设下，该方法是渐近一致的，即随着样本量增加，其收敛于真实因果效应。

实验结果

研究问题

• RQ1 当多数或典型子集的候选工具变量违反排除限制时，能否实现有效的因果推断？
• RQ2 一种聚合多个IV估计器预测结果的黑箱集成方法，能否在存在无效工具变量的情况下实现一致估计？
• RQ3 在高维、非线性处理效应和低信噪比的场景中，ModeIV的表现如何？
• RQ4 在单个估计器存在偏差的情况下，多个IV估计的众数在何种条件下仍对应于真实因果效应？
• RQ5 ModeIV能否与现代基于机器学习的IV估计器有效结合，用于估计异质性处理效应？

主要发现

• 在合成数据和真实的孟德尔随机化模拟中，即使大量工具变量无效，ModeIV仍能准确估计条件平均处理效应（CATE）。
• 该方法对排除限制偏差具有鲁棒性，其在低信噪比模拟中表现出一致的性能。
• 当多数工具变量无效时，只要典型工具变量-结果关系有效，ModeIV仍能保持高精度。
• 由于过滤无效工具变量带来的效率损失在实践中可忽略不计，使得ModeIV兼具鲁棒性与高效性。
• ModeIV成功结合了基于深度学习的IV估计器（如DeepIV），在高维场景中实现了非线性因果效应的估计。
• 理论分析表明，在典型有效性假设下，ModeIV是渐近一致的，提供了强有力的统计保证。