[论文解读] Learning Embeddings from Cancer Mutation Sets for Classification Tasks

Geoffroy Dubourg-Felonneau, Yasmeen Kussad+4 more|arXiv (Cornell University)|Nov 20, 2019

Machine Learning in Bioinformatics参考文献 8被引用 4

一句话总结

该论文提出 Flatsomatic，一种变分自编码器（VAE），能够从癌症基因组学中的体细胞突变集合中学习低维、信息丰富的嵌入表示。通过使用基于 F1 分数的损失函数和 beta-VAE 正则化将突变位置数据压缩到潜在空间，该方法在聚类任务中表现优于主成分分析（PCA），在分类任务中与原始数据表现相当，从而更有效地利用了稀疏、高维的突变谱型，推动精准肿瘤学的发展。

ABSTRACT

Analysis of somatic mutation profiles from cancer patients is essential in the development of cancer research. However, the low frequency of most mutations and the varying rates of mutations across patients makes the data extremely challenging to statistically analyze as well as difficult to use in classification problems, for clustering, visualization or for learning useful information. Thus, the creation of low dimensional representations of somatic mutation profiles that hold useful information about the DNA of cancer cells will facilitate the use of such data in applications that will progress precision medicine. In this paper, we talk about the open problem of learning from somatic mutations, and present Flatsomatic: a solution that utilizes variational autoencoders (VAEs) to create latent representations of somatic profiles. The work done in this paper shows great potential for this method, with the VAE embeddings performing better than PCA for a clustering task, and performing equally well to the raw high dimensional data for a classification task. We believe the methods presented herein can be of great value in future research and in bringing data-driven models into precision oncology.

研究动机与目标

• 解决体细胞突变数据在机器学习应用中面临的高维性、稀疏性和集合大小可变性挑战。
• 开发一种稳健的、低维的体细胞突变谱型表示方法，以保留生物相关的信号。
• 通过从突变数据中学习无偏、信息丰富的嵌入表示，改进下游任务如聚类和分类。
• 探索保留非位置特征的替代数据表示方式，避免使用如二值突变发生矩阵等次优预处理方法。

提出的方法

• 该方法使用变分自编码器（VAE）将体细胞突变谱型压缩到低维潜在空间，重点关注重建保真度和解耦表示。
• 将突变数据预处理为基于染色体位置的二值发生向量，并移除低频突变（频率 < 5）以减少稀疏性。
• VAE 使用两层全连接网络（MLP）作为编码器和解码器，包含批量归一化、Leaky ReLU、ReLU 和 Sigmoid 激活函数，以及 Dropout 和 L1 正则化。
• 引入一种新型基于 F1 分数的重建损失，并与二值交叉熵损失进行比较，显著提升了在稀疏突变数据上的重建性能。
• 通过使用预热调度和 beta-VAE 优化正则化项，增强了潜在空间中的解耦性和泛化能力。
• 通过聚类（NMI）和分类（F1 分数）评估性能，并与 PCA 和原始数据进行比较。

实验结果

研究问题

• RQ1 变分自编码器能否学习到比传统方法（如 PCA）更信息丰富的体细胞突变谱型低维表示？
• RQ2 与标准的二值交叉熵损失相比，自定义的基于 F1 分数的损失函数是否能提升对稀疏、高维突变数据的重建性能？
• RQ3 潜在空间的大小如何影响嵌入表示的质量，特别是在重建性能和下游任务表现方面？
• RQ4 VAE 学习到的嵌入表示能否在药物反应预测等分类任务中达到与原始突变数据相当的性能？
• RQ5 创建二值突变发生矩阵的预处理步骤在多大程度上限制了模型捕捉生物相关特征的能力？

主要发现

• 基于 MLP 的 VAE 配合基于 F1 分数的损失函数，在潜在空间大小为 32 时达到 20.88% 的验证 F1 分数，优于二值交叉熵损失。
• 重建性能最优的潜在空间大小大于 8，峰值性能出现在 32 维。
• VAE 嵌入在聚类任务中达到 21% 的标准化互信息（NMI）分数，显著优于 PCA 的 11% NMI。
• 在药物反应预测任务中，Flatsomatic 嵌入（64 维）达到 0.667 的 F1 分数，与原始突变发生数据（8298 维）表现相当。
• 使用预热调度优化 beta-VAE 正则化项显著提升了模型性能，表明其在学习解耦表示中的关键作用。
• 基于双向 LSTM 的 VAE 表现劣于 MLP-VAE，仅达到 17.1% 的 F1 分数，表明序列建模在无序突变集合上的效果较差。