[论文解读] Improving generalization of machine learning-identified biomarkers with causal modeling: an investigation into immune receptor diagnostics

Milena Pavlović, Ghadi S. Al Hajj+6 more|arXiv (Cornell University)|Apr 20, 2022

Computational Drug Discovery Methods被引用 7

一句话总结

本文提出将因果建模整合到免疫受体 repertoire（AIRR）生物标志物发现的机器学习流程中，以提升模型在多样化人群中的泛化能力。通过识别受混杂生物和实验变量影响下仍保持稳定的不变关系，该方法增强了机器学习识别的生物标志物的鲁棒性和可迁移性，已在 AIRR 数据的模拟中得到验证。

ABSTRACT

Machine learning is increasingly used to discover diagnostic and prognostic biomarkers from high-dimensional molecular data. However, a variety of factors related to experimental design may affect the ability to learn generalizable and clinically applicable diagnostics. Here, we argue that a causal perspective improves the identification of these challenges and formalizes their relation to the robustness and generalization of machine learning-based diagnostics. To make for a concrete discussion, we focus on a specific, recently established high-dimensional biomarker - adaptive immune receptor repertoires (AIRRs). Through simulations, we illustrate how major biological and experimental factors of the AIRR domain may influence the learned biomarkers. In conclusion, we argue that causal modeling improves machine learning-based biomarker robustness by identifying stable relations between variables and by guiding the adjustment of the relations and variables that vary between populations.

研究动机与目标

• 解决基于机器学习的高维免疫受体 repertoire（AIRRs）生物标志物发现中泛化能力差的挑战。
• 识别生物和实验因素（如测序深度、人群异质性及免疫 repertoire 多样性）对模型鲁棒性的影响。
• 形式化因果推理在区分虚假相关性与稳定、可迁移的生物标志物信号中的作用。
• 开发一个框架，指导变量选择与调整，以提升机器学习模型在跨人群场景下的表现。
• 展示因果建模在提升基于 AIRR 诊断的临床适用性方面的实用性。

提出的方法

• 应用因果推断框架，建模 AIRR 特征、疾病状态与混杂变量之间的关系。
• 利用 do-演算和结构因果模型（SCMs）识别不同人群间不变的因果效应。
• 模拟多种实验条件（如测序深度、人群结构差异）以评估混杂条件下模型的行为。
• 通过反事实分析评估模型在训练与测试人群分布发生偏移时的鲁棒性。
• 将因果发现与下游机器学习模型结合，优先选择与疾病具有稳定因果关联的特征。
• 基于识别出的因果结构，通过重加权或重新训练模型来调整混杂因素，以提升泛化能力。

实验结果

研究问题

• RQ1 AIRR 数据中的实验和生物因素（如测序深度、人群结构）如何损害机器学习识别的生物标志物的泛化能力？
• RQ2 免疫受体 repertoire 中哪些特征与疾病存在因果关联，又如何将其与虚假相关性区分开来？
• RQ3 因果建模在多大程度上可提升机器学习生物标志物在多样化人群间的可迁移性？
• RQ4 因果结构学习如何指导选择对诊断模型具有鲁棒性和不变性的特征？
• RQ5 混杂变量在多大程度上破坏了基于机器学习的免疫生物标志物发现的可靠性？

主要发现

• 因果建模成功识别出在模拟人群中免疫受体特征与疾病状态之间稳定的不变关系。
• 经过因果调整训练的机器学习模型在分布外人群中的泛化能力显著优于标准机器学习方法。
• 当整合因果结构后，由技术性人工制品（如测序深度）引发的虚假相关性得到有效缓解。
• 该方法减少了对人群特异性特征的依赖，增强了在多样化队列间的可迁移性。
• 反事实分析表明，未进行因果调整的模型对未观测到的混杂因素敏感，尤其在异质性人群中更为明显。
• 将因果发现与机器学习结合，即使在 AIRR 数据出现显著分布偏移的情况下，也能提升模型的鲁棒性。