[论文解读] Recursive Partitioning for Personalization using Observational Data

Nathan Kallus|arXiv (Cornell University)|Aug 31, 2016

Statistical Methods and InferenceMathematics被引用 20

一句话总结

本文提出了一种新颖的递归划分方法，用于从观察性数据中进行个性化治疗选择，将个性化视为单一学习任务，而非m个独立的回归任务。该方法引入了一种新的治疗方案不纯度度量，开发了个性化树（PT）、个性化森林（PF）以及通过混合整数规划实现的最优划分（OPT），并在个性化医疗和职业培训应用中展示了优越的性能与可解释性，实现了完美个性化潜在收益的最高47%。

ABSTRACT

We study the problem of learning to choose from m discrete treatment options (e.g., news item or medical drug) the one with best causal effect for a particular instance (e.g., user or patient) where the training data consists of passive observations of covariates, treatment, and the outcome of the treatment. The standard approach to this problem is regress and compare: split the training data by treatment, fit a regression model in each split, and, for a new instance, predict all m outcomes and pick the best. By reformulating the problem as a single learning task rather than m separate ones, we propose a new approach based on recursively partitioning the data into regimes where different treatments are optimal. We extend this approach to an optimal partitioning approach that finds a globally optimal partition, achieving a compact, interpretable, and impactful personalization model. We develop new tools for validating and evaluating personalization models on observational data and use these to demonstrate the power of our novel approaches in a personalized medicine and a job training application.

研究动机与目标

• 解决在随机对照试验不可行或不道德的观察性数据中学习最优治疗分配的挑战。
• 克服标准的“回归并比较”方法的局限性，该方法将每种治疗视为独立的回归任务，未能在观察性环境中考虑治疗间的比较。
• 开发一种统一的学习框架，通过递归划分协变量空间，直接优化个性化，识别出特定治疗最优的治疗方案区域。
• 利用混合整数规划和集成方法，构建可解释、紧凑且全局最优的个性化模型。
• 引入新的验证技术，包括子匹配法和个性化系数，以在观察性数据上公平评估和调优个性化模型。

提出的方法

• 通过定义一种新的不纯度度量，将个性化重新表述为单一学习任务，该度量量化在分配最佳治疗时，分区内预期结果的差异。
• 开发个性化树（PT），一种贪心的递归划分算法，通过最小化分区内个性化不纯度之和，识别最优治疗方案。
• 引入个性化森林（PF），即基于自助采样训练的PT集合，以提高鲁棒性与泛化能力。
• 提出最优个性化树（OPT），利用混合整数规划（MIP）全局优化协变量空间的划分，确保在约束条件下获得最佳模型。
• 采用一种新颖的子匹配技术，从观察性数据中创建匹配的测试集，实现个性化模型的有效样本外评估。
• 定义并使用个性化系数（P1, P2），将模型性能量化为完美个性化所能获得最大收益的百分比。

实验结果

研究问题

• RQ1 递归划分框架是否能在从观察性数据中进行个性化时优于标准的“回归并比较”方法？
• RQ2 一种统一的学习方法，联合优化所有治疗选项的分配，是否能相比每种治疗单独回归的方法，提升模型性能与可解释性？
• RQ3 通过混合整数规划实现的全局最优划分方法，在多大程度上能优于贪心或集成方法？
• RQ4 在缺乏实验控制的观察性数据上，如何实现个性化模型的有效评估与验证？
• RQ5 个性化的真实世界影响是什么？如何通过如个性化系数等新指标有意义地量化其影响？

主要发现

• 在华法林剂量调整应用中，最优个性化树（OPT）实现了0.356的最优样本外风险，对应于完美个性化潜在收益的47%。
• 在职业培训应用中，个性化森林（PF）实现了平均净收入4,200.80美元，相当于相对于标准照护方案的28%收益。
• 在小样本量（n = 100）时，OPT因能够找到简单且可解释的树（深度2–3）而优于其他方法；但在大样本量时，由于MIP求解器的限制，性能下降。
• 所提出的子匹配技术通过创建协变量失衡极小的匹配测试集，实现了有效评估，确保了可靠的样本外评估。
• 个性化系数（P1, P2）成功地将模型性能量化为理论最大收益的百分比，为真实世界影响提供了清晰且可解释的度量。
• 与CART和因果森林等基线方法相比，OPT和PF方法在高维设置下表现出更优的可解释性与紧凑性。