[论文解读] A Variational Information Bottleneck Approach to Multi-Omics Data Integration

Changhee Lee, Mihaela van der Schaar|arXiv (Cornell University)|Feb 5, 2021

Bioinformatics and Genomic Networks参考文献 11被引用 30

一句话总结

DeepIMV 使用变分信息瓶颈与专家模型的乘积来灵活整合缺失的多组学视图以进行有监督预测，超越了最先进的基准。

ABSTRACT

Integration of data from multiple omics techniques is becoming increasingly important in biomedical research. Due to non-uniformity and technical limitations in omics platforms, such integrative analyses on multiple omics, which we refer to as views, involve learning from incomplete observations with various view-missing patterns. This is challenging because i) complex interactions within and across observed views need to be properly addressed for optimal predictive power and ii) observations with various view-missing patterns need to be flexibly integrated. To address such challenges, we propose a deep variational information bottleneck (IB) approach for incomplete multi-view observations. Our method applies the IB framework on marginal and joint representations of the observed views to focus on intra-view and inter-view interactions that are relevant for the target. Most importantly, by modeling the joint representations as a product of marginal representations, we can efficiently learn from observed views with various view-missing patterns. Experiments on real-world datasets show that our method consistently achieves gain from data integration and outperforms state-of-the-art benchmarks.

研究动机与目标

• 在有监督设置下，推动整合具有缺失视图的异质组学数据。
• 开发一个统一框架，利用视图内和视图间的交互来进行目标预测。
• 在不对所有视图进行填充的情况下，灵活处理任意视图缺失模式。
• 通过信息瓶颈学习与任务相关的表示，以提升预测能力。

提出的方法

• Four-network DeepIMV 架构：V 个视图特定的编码器、V 个视图特定的预测器、一个 product-of-experts (PoE) 模块，以及一个多视图预测器。
• 按视图通过 q_theta_v(z|x_v) 学习边际表示 Z_v；联合表示 Z 作为边际后验的 PoE 形成：q_theta(z|X_bar) ≈ p(z) ∏_v∈V q_theta_v(z|x_v)。
• 面向任务的学习在联合表示上使用信息瓶颈目标，以在最大化 Y-预测信号的同时压缩输入信息：L_IB-J = -I(Y;Z) + β I(X_bar; Z)。
• 辅助的边际 IB 损失 L_IB-M 鼓励视图特定的编码器捕捉每个视图的判别性、与任务相关的方面：-I(Y_v; Z_v) + β_v I(X_v; Z_v)。
• 训练优化联合 IB 损失与边际 IB 损失的加权和：L_Total = L_IB-J + α ∑_v L_IB-M。
• 高斯边际的高效训练使 PoE 联合后验存在闭式解，以及对编码器和预测器的确定性/随机映射。

实验结果

研究问题

• RQ1 在不对缺失视图进行填充的情况下，是否可以在一个框架中整合不完整的多视图组学数据？
• RQ2 在视图缺失模式下，如何将边际（逐视图）表示组合成清晰、信息丰富的联合表示？
• RQ3 在不完整的多视图数据中，product-of-experts 联合后验相对于混合或阶段性方法是否能提升预测性能？
• RQ4 视图特定的预测器和边际 IB 损失是否有助于学习对联合模型有益的任务相关、视图特定的信息？

主要发现

• 在 TCGA 和 CCLE 数据集上，将不完整的多视图组学数据整合时，DeepIMV 一贯提高预测性能。
• Product-of-Experts 形式通过在联合潜在空间构造时忽略缺失视图，灵活处理任意缺失视图模式，避免额外的填充步骤。
• 结合视图特定的 IB 损失和预测器有助于编码器专注于视图相关信息，促进 PoE 联合表示的训练并提高准确性。
• 在各种实验中，DeepIMV 的表现优于假设完整视图或使用重建导向潜在空间的多视图基准方法（如 MVAE、MOFA）。
• 消融研究表明 PoE 加边际 IB 损失比基于 MoE 的变体获得更好的 AUROC，突显了任务相关的、视图特定表示的价值。