[论文解读] Transfer Learning on Heterogeneous Feature Spaces for Treatment Effects Estimation

Ioana Bica, Mihaela van der Schaar|arXiv (Cornell University)|Oct 8, 2022

Machine Learning in Healthcare被引用 7

一句话总结

本文提出了一种异质迁移学习框架，用于条件平均处理效应（CATE）估计，可在具有不同且部分重叠特征空间的领域之间实现知识迁移。通过结合表示学习与包含共享层和私有层的多任务架构，该方法在低数据量目标领域中提升了CATE估计性能——在半真实基准上表现出一致的性能提升，同时保留了标准CATE学习器的归纳偏置。

ABSTRACT

Consider the problem of improving the estimation of conditional average treatment effects (CATE) for a target domain of interest by leveraging related information from a source domain with a different feature space. This heterogeneous transfer learning problem for CATE estimation is ubiquitous in areas such as healthcare where we may wish to evaluate the effectiveness of a treatment for a new patient population for which different clinical covariates and limited data are available. In this paper, we address this problem by introducing several building blocks that use representation learning to handle the heterogeneous feature spaces and a flexible multi-task architecture with shared and private layers to transfer information between potential outcome functions across domains. Then, we show how these building blocks can be used to recover transfer learning equivalents of the standard CATE learners. On a new semi-synthetic data simulation benchmark for heterogeneous transfer learning we not only demonstrate performance improvements of our heterogeneous transfer causal effect learners across datasets, but also provide insights into the differences between these learners from a transfer perspective.

研究动机与目标

• 解决在观测数据有限且特征集与较大源领域不同的低数据量目标领域中估计CATE的挑战。
• 实现从具有不同特征空间的源领域向目标领域有效迁移因果知识，以提升CATE估计性能。
• 在通过模块化构建块适应异质特征空间的同时，保留既有的CATE学习器的归纳偏置。
• 开发一种灵活的多任务神经架构，包含共享层与私有层，以建模不同领域间潜在结果函数与处理分配机制的相似性与差异性。
• 在新构建的半真实基准上评估该框架，以衡量迁移性能，并比较不同HTCE-learner变体。

提出的方法

• 引入模块化构建块，以将标准CATE学习器适配至异质迁移学习，包括用于跨领域特征对齐的表示学习。
• 设计一种多任务神经网络，包含跨领域的共享层与各领域独立的私有层，以建模潜在结果中的领域特异与共享模式。
• 通过特征级拼接结合共享与私有表示：$\tilde{h}_{w,l+1}^{p_{R_{m}}} = [h_{w,l}^{s} || h_{w,l}^{p_{R_{m}}}]$。
• 通过整合领域特异与共享表示，将该框架应用于恢复标准CATE估计器的迁移学习等价形式。
• 通过表示学习处理特征不匹配问题，将异质输入特征映射至共享潜在空间。
• 通过支持增量更新与动态模型自适应，实现对多个源领域及流数据场景的扩展。

实验结果

研究问题

• RQ1 当源领域使用一组不同且部分重叠的特征时，如何在低数据量目标领域中提升因果效应估计性能？
• RQ2 为在实现跨异质特征空间迁移的同时保留标准CATE学习器的归纳偏置，哪些架构组件是必要的？
• RQ3 在共享-私有多任务架构中，不同的设计选择如何影响CATE估计在异质迁移学习中的性能？
• RQ4 在低数据量、异质设置下，HTCE-learners相较于标准CATE估计器的性能增益与权衡是什么？
• RQ5 所提出的框架是否可扩展至流数据或未知领域设置，而无需从头开始重新训练？

主要发现

• 所提出的HTCE-learners在新半真实基准的多个数据集上，相对于标准CATE估计器均实现了稳定的性能提升。
• 该框架通过学习共享表示并利用私有层保留领域特异性模式，成功处理了特征空间异质性问题。
• 当目标领域训练数据有限时，迁移学习收益最为显著，验证了该方法在低数据临床场景中的实用性。
• 消融研究显示，共享表示学习与私有建模组件均对性能提升有显著贡献。
• 该方法可推广至多个源领域，并支持增量式自适应，表明其在真实世界流数据应用中的可行性。
• 该架构能够恢复标准CATE学习器的迁移学习等价形式，证明其与现有因果推断范式的兼容性。