[论文解读] Prior Adaptive Semi-supervised Learning with Application to EHR Phenotyping

Yichi Zhang, Molei Liu+2 more|PubMed|Mar 26, 2020

Machine Learning in Healthcare参考文献 40被引用 5

一句话总结

本文提出先验自适应半监督学习（PASS），一种用于电子健康记录（EHR）表型分析的高维稀疏回归方法，该方法利用少量标注数据、大量仅含特征X的无标注数据，以及一个可预测真实表型Y的替代变量S。通过自适应地将估计器收缩至由S推导出的先验方向，PASS提高了估计效率与鲁棒性，在模拟实验和三级医院系统中的真实EHR表型分析应用中优于现有方法。

ABSTRACT

Electronic Health Record (EHR) data, a rich source for biomedical research, have been successfully used to gain novel insight into a wide range of diseases. Despite its potential, EHR is currently underutilized for discovery research due to its major limitation in the lack of precise phenotype information. To overcome such difficulties, recent efforts have been devoted to developing supervised algorithms to accurately predict phenotypes based on relatively small training datasets with gold standard labels extracted via chart review. However, supervised methods typically require a sizable training set to yield generalizable algorithms, especially when the number of candidate features, <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"><mml:mi>p</mml:mi></mml:math>, is large. In this paper, we propose a semi-supervised (SS) EHR phenotyping method that borrows information from both a small, labeled dataset (where both the label <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"><mml:mi>Y</mml:mi></mml:math> and the feature set <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"><mml:mi>X</mml:mi></mml:math> are observed) and a much larger, weakly-labeled dataset in which the feature set <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"><mml:mi>X</mml:mi></mml:math> is accompanied only by a surrogate label <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"><mml:mi>S</mml:mi></mml:math> that is available to all patients. Under a <i>working</i> prior assumption that <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"><mml:mi>S</mml:mi></mml:math> is related to <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"><mml:mi>X</mml:mi></mml:math> only through <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"><mml:mi>Y</mml:mi></mml:math> and allowing it to hold <i>approximately</i>, we propose a prior adaptive semi-supervised (PASS) estimator that incorporates the prior knowledge by shrinking the estimator towards a direction derived under the prior. We derive asymptotic theory for the proposed estimator and justify its efficiency and robustness to prior information of poor quality. We also demonstrate its superiority over existing estimators under various scenarios via simulation studies and on three real-world EHR phenotyping studies at a large tertiary hospital.

研究动机与目标

• 为解决EHR表型分析中标签数据有限的问题，其中来自病历审查的金标准标签成本高昂且稀缺。
• 在特征数p相对于样本量较大的高维设置中，提高估计效率与鲁棒性。
• 开发一种半监督学习框架，有效整合来自替代变量S的先验知识，S可预测真实表型Y但不完全对齐。
• 确保即使先验信息（如来自S的信息）质量较差或条件独立性假设被违反，方法仍保持鲁棒性。
• 在保持高维特征空间中统计效率与稀疏性的同时，利用X和S实现疾病状态Y的准确预测。

提出的方法

• PASS在单索引模型框架下，将标注数据(Y, X)与无标注数据(X, S)统一建模为正则化估计问题。
• 引入惩罚项，使系数向量β收缩至ρα*，其中α*是通过S ~ X的ALASSO回归估计出的先验方向，ρ则自适应选择以平衡先验信息与数据驱动估计。
• 采用两阶段估计：首先通过S对X的ALASSO回归估计替代方向α*；其次通过鼓励β − ρα*稀疏性的惩罚似然估计β。
• 理论依据基于限制特征值假设及β₀ − ρα₀的稀疏性，使无标注数据能对估计产生实质性贡献。
• 由于自适应收缩机制可降低低质量先验的影响，该方法对条件独立性假设S ⊥ X | Y的违反具有鲁棒性。
• 通过将多个S_k及其对应α*_k整合为联合惩罚结构，该方法可扩展至多个替代变量。

实验结果

研究问题

• RQ1 当仅有少量标注数据时，半监督学习方法能否有效利用大规模无标注EHR数据？
• RQ2 在先验信息不准确时，如何自适应地将替代变量S的知识整合进高维回归，而不降低性能？
• RQ3 所提出的PASS估计器在条件独立性假设S ⊥ X | Y被违反时，是否仍能保持估计效率与鲁棒性？
• RQ4 与现有监督和半监督基线方法相比，该方法是否能在真实EHR系统中提升表型分析准确性？
• RQ5 在高维、稀疏且共线性设置下，该估计器的一致性与渐近效率的理论依据是什么？

主要发现

• 在模拟研究中，PASS显著优于现有方法，尤其在高维特征与噪声或弱替代变量的情境下。
• 在大型三级医院系统的真实EHR表型分析应用中，PASS实现了更高的受试者工作特征曲线下面积（AUC），表明预测准确性提升。
• 即使替代变量S对Y的预测能力仅中等，PASS仍保持鲁棒性，展现出对低质量先验信息的强适应能力。
• 理论分析证实，在β₀ − ρα₀为稀疏的假设下，估计器具有一致性与渐近效率，从而有效利用无标注数据。
• 当真实信号微弱或设计矩阵非椭球分布时，PASS的变量选择性能优于pLASSO与SS^prior。
• 实证结果表明，PASS能有效恢复P(Y=1 | S, X)的尺度，这是以往仅基于S的无监督方法的局限。