[论文解读] Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype Prediction

Ziyi Yang, Jun Shu+3 more|arXiv (Cornell University)|Sep 2, 2020

Gene expression and cancer classification参考文献 48被引用 4

一句话总结

该论文提出 Select-ProtoNet，一种元学习框架，通过特征选择和样本重加权，增强原型网络在嘈杂、高维基因表达数据上的少样本疾病亚型预测能力。通过过滤无关基因并抑制噪声样本，该模型在肺癌亚型预测任务上相比其主干模型 ProtoNet 准确率提升超过20个百分点，且在高噪声环境下表现出强鲁棒性。

ABSTRACT

Current machine learning has made great progress on computer vision and many other fields attributed to the large amount of high-quality training samples, while it does not work very well on genomic data analysis, since they are notoriously known as small data. In our work, we focus on few-shot disease subtype prediction problem, identifying subgroups of similar patients that can guide treatment decisions for a specific individual through training on small data. In fact, doctors and clinicians always address this problem by studying several interrelated clinical variables simultaneously. We attempt to simulate such clinical perspective, and introduce meta learning techniques to develop a new model, which can extract the common experience or knowledge from interrelated clinical tasks and transfer it to help address new tasks. Our new model is built upon a carefully designed meta-learner, called Prototypical Network, that is a simple yet effective meta learning machine for few-shot image classification. Observing that gene expression data have specifically high dimensionality and high noise properties compared with image data, we proposed a new extension of it by appending two modules to address these issues. Concretely, we append a feature selection layer to automatically filter out the disease-irrelated genes and incorporate a sample reweighting strategy to adaptively remove noisy data, and meanwhile the extended model is capable of learning from a limited number of training examples and generalize well. Simulations and real gene expression data experiments substantiate the superiority of the proposed method for predicting the subtypes of disease and identifying potential disease-related genes.

研究动机与目标

• 为解决基因组学中训练数据有限且嘈杂的少样本疾病亚型预测挑战。
• 通过同时建模相互关联的临床变量，模拟临床推理过程，而非孤立地处理每种子病种。
• 通过解决基因表达谱固有的高维性与噪声问题，提升原型网络在基因组数据上的表现。
• 开发一种数据高效模型，通过跨相关临床任务共享知识，实现从少量样本中良好泛化。
• 通过生存分析在 TCGA 数据上的验证，识别出具有生物学意义的基因。

提出的方法

• 在原型网络基础上引入可学习的特征选择层，自动从高维表达数据中识别与疾病相关的基因。
• 提出一种样本重加权策略，在支持集嵌入过程中自适应地降低噪声或异常样本的权重。
• 采用加权原型计算方法，其中每类原型由支持样本的加权平均得到，权重通过神经网络学习获得。
• 采用元学习范式，在多个相关临床任务（如 TCGA 中的疾病亚型）上进行训练，实现知识迁移至新的少样本任务。
• 采用端到端的课程式训练，每个训练周期模拟一个少样本分类任务，包含支持集与查询集。
• 采用多任务学习设置，使用 TCGA 任务的精选子集，构建用于基准测试的 mini-TCGA Meta-Dataset。

实验结果

研究问题

• RQ1 元学习技术能否提升在样本有限且嘈杂的基因组数据中进行少样本疾病亚型预测的性能？
• RQ2 引入特征选择与样本重加权后，模型在高维与噪声基因表达数据中的鲁棒性如何提升？
• RQ3 从相互关联的临床任务中共享的知识在少样本基因组分类中的泛化能力可提升到何种程度？
• RQ4 该模型能否识别出与患者生存结局相关的生物有意义基因？
• RQ5 在不同噪声水平下，Select-ProtoNet 与传统监督方法及其主干模型 ProtoNet 在准确率与鲁棒性方面表现如何？

主要发现

• 在 TCGA Meta-Dataset 的肺癌亚型预测任务中，Select-ProtoNet 达到 97.78% 的准确率，相比其主干模型 ProtoNet 提升超过 20 个百分点。
• 在 mini-TCGA Meta-Dataset 上，随着噪声增加，Select-ProtoNet 保持高性能，在 50% 噪声水平下达到 78.15% 准确率，显著优于逻辑回归模型的 57.06%。
• 在肺癌任务中，该模型相比基线 ProtoNet 准确率提升 12.7 个百分点，证明了元学习知识带来的强大泛化能力。
• Select-ProtoNet 筛选的前 20 个基因在生存分析中表现出显著差异（logrank p 值 = 5.801e-4），缺乏这些基因改变的患者生存期更长。
• 特征选择层有效过滤了无关基因，样本重加权机制降低了噪声样本的影响，提升了模型稳定性。
• 生存分析证实，由 Select-ProtoNet 识别出的基因在肺癌背景下具有生物学相关性与临床意义。