[论文解读] Learning Interpretable Models with Causal Guarantees

Carolyn Kim, Osbert Bastani|arXiv (Cornell University)|Jan 24, 2019

Explainable Artificial Intelligence (XAI)参考文献 41被引用 12

一句话总结

本文提出了一种通用框架，可将任意可解释的监督学习算法转化为具有因果保证的个体处理效应（ITE）预测模型。通过使用模型压缩技术，在基于假设的随机对照试验（RCT）分布上训练可解释模型，该方法在保持可解释性的同时确保了因果有效性，并在真实世界数据上实证优于基线方法，尤其在ITE预测精度方面表现更优。

ABSTRACT

Machine learning has shown much promise in helping improve the quality of medical, legal, and financial decision-making. In these applications, machine learning models must satisfy two important criteria: (i) they must be causal, since the goal is typically to predict individual treatment effects, and (ii) they must be interpretable, so that human decision makers can validate and trust the model predictions. There has recently been much progress along each direction independently, yet the state-of-the-art approaches are fundamentally incompatible. We propose a framework for learning interpretable models from observational data that can be used to predict individual treatment effects (ITEs). In particular, our framework converts any supervised learning algorithm into an algorithm for estimating ITEs. Furthermore, we prove an error bound on the treatment effects predicted by our model. Finally, in an experiment on real-world data, we show that the models trained using our framework significantly outperform a number of baselines.

研究动机与目标

• 解决医疗、法律和金融等领域对兼具因果性和可解释性的机器学习模型在决策中的关键需求。
• 克服最先进的黑箱因果模型与可解释模型之间的根本不相容性。
• 开发一种通用框架，使任何可解释的监督学习算法均可适配用于因果ITE预测。
• 为所得到的可解释模型性能提供理论误差界。
• 通过观测数据实证验证，该框架在ITE预测精度方面显著优于仅使用观测数据的基线方法。

提出的方法

• 该框架采用模型压缩：在基于假设的RCT分布上，训练一个可解释模型以逼近预先训练好的黑箱oracle模型。
• RCT分布通过假设处理分配与协变量无关来构建，从而确保因果有效性。
• 最终的可解释模型通过在处理和对照条件下预测值的差异来预测ITE：$\hat{\tau}_{f}(x) = \hat{f}(x,1) - \hat{f}(x,0)$。
• 理论分析表明，可解释模型的误差可分解为oracle模型在RCT分布上的误差、该分布上最佳可能的可解释模型的误差以及泛化误差。
• 该方法利用强忽略性假设，将现有因果表示学习的保证扩展至可解释模型。
• 该方法对可解释模型的选择保持无偏，支持使用决策树、LASSO、GBM、随机森林等多种模型。

实验结果

研究问题

• RQ1 能否设计一种通用框架，将任意可解释的监督学习算法转化为具有因果保证的个体处理效应预测模型？
• RQ2 所得到的可解释模型的性能在多大程度上依赖于oracle黑箱模型的质量以及基础算法的可解释性？
• RQ3 可为通过该框架训练的可解释模型所做出的ITE预测建立哪些理论误差界？
• RQ4 该框架是否在ITE预测方面优于仅使用观测数据的标准基线方法？
• RQ5 在缺乏实际RCT数据的情况下，使用RCT启发的分布在多大程度上能提升因果泛化能力？

主要发现

• 在所有测试的模型族中，所提出的框架在$\sqrt{\epsilon_{\mathrm{PEHE}}}$（ITE预测的均方根误差）方面始终优于基线方法。
• 在IHDP数据集上，该框架使用CART树时达到$\sqrt{\epsilon_{\mathrm{PEHE}}}$为0.439 ± 0.02，显著优于基线的0.534 ± 0.03。
• 对于诚实树，该框架达到0.439 ± 0.02，而基线为0.470 ± 0.03，表明即使在专为因果推断设计的模型上也实现了改进。
• 该框架在所有模型族中均提升了性能，包括LASSO、核岭回归、GBM和随机森林，表明其具有广泛适用性。
• 改进在ITE预测中最为显著，$\sqrt{\epsilon_{\mathrm{PEHE}}}$持续提升，且在大多数情况下，ATE预测性能也得到改善。
• 结果证实，缺乏RCT数据的代价由oracle模型的误差所界定，而该框架通过在RCT分布上进行模型压缩，有效缓解了这一代价。