[论文解读] Feature Selection for Microarray Gene Expression Data using Simulated Annealing guided by the Multivariate Joint Entropy

Fernando González‐Pérez, Lluís Belanche|arXiv (Cornell University)|Feb 7, 2013

Gene expression and cancer classification参考文献 8被引用 5

一句话总结

该论文提出了一种新颖的特征选择算法 μ-TAFS，该算法利用由多元联合熵引导的模拟退火法，从微阵列数据中识别出具有生物学相关性的基因子集。通过重用先前计算结果来高效计算联合熵，该方法在极小的子集大小下实现了高分类准确率——在五个公开的微阵列数据集上表现出色，且计算成本极低。

ABSTRACT

In this work a new way to calculate the multivariate joint entropy is presented. This measure is the basis for a fast information-theoretic based evaluation of gene relevance in a Microarray Gene Expression data context. Its low complexity is based on the reuse of previous computations to calculate current feature relevance. The mu-TAFS algorithm --named as such to differentiate it from previous TAFS algorithms-- implements a simulated annealing technique specially designed for feature subset selection. The algorithm is applied to the maximization of gene subset relevance in several public-domain microarray data sets. The experimental results show a notoriously high classification performance and low size subsets formed by biologically meaningful genes.

研究动机与目标

• 为解决具有数千个基因和少量样本的高维微阵列数据中，传统特征选择方法计算成本过高的挑战。
• 开发一种快速的信息论目标函数，用于衡量基因的相关性，从而实现在高维空间中的高效优化。
• 设计一种基于模拟退火的搜索算法，在保持大规模基因表达数据计算可行性的同时，能够逃离局部最优解。
• 识别出小规模、具有生物学意义的基因子集，以在癌症亚型预测中实现高分类准确率。
• 在公开的微阵列数据集上评估该方法，并与现有最先进方法进行性能比较。

提出的方法

• 该方法提出了一种新的、精确且高效的分类变量多元联合熵计算方法，通过重用先前计算结果以降低复杂度。
• 目标函数基于多元联合熵，以捕捉特征之间依赖关系的方式衡量基因子集的相关性。
• 采用专门设计的模拟退火算法（μ-TAFS）搜索最优特征子集，通过概率性地接受更差解来逃离局部极小值。
• 该算法通过迭代探索相邻子集，并根据能量差和温度衰减规则接受或拒绝子集，以最大化基因子集的相关性。
• 将联合熵计算集成到 SA 框架中，实现在无需训练预测模型的情况下快速评估候选子集。
• 该方法应用于五个公开的微阵列数据集，通过交叉验证评估分类性能。

实验结果

研究问题

• RQ1 能否使用一种高效的信息论度量——多元联合熵，来指导高维微阵列数据中的特征选择？
• RQ2 基于联合熵引导的模拟退火搜索方法，在分类准确率和子集大小方面是否优于现有特征选择方法？
• RQ3 在联合熵计算中重用先前计算是否能显著降低特征子集评估的时间复杂度？
• RQ4 所选基因子集是否具有生物学意义，并与已知的癌症相关基因一致？
• RQ5 在基准微阵列数据集上，μ-TAFS 与最先进方法相比，在性能和计算效率方面表现如何？

主要发现

• μ-TAFS 算法在五个公开的微阵列数据集上均表现出显著高的分类性能，优于或匹配现有最先进方法。
• 所选基因子集始终很小——在保持或提升预测准确率的同时，实现了维度的急剧降低。
• 该方法识别出 DEC1、MTMR11、HPN 和 CYP24A1 等具有生物学相关性的基因，这些基因已知与肺癌、前列腺癌和乳腺癌相关。
• 将联合熵作为目标函数，使得候选子集的评估速度显著加快，与标准 SA 方法相比计算时间大幅减少。
• 该算法成功识别出已知的原癌基因和肿瘤抑制基因，验证了所选特征的生物学相关性。
• 结果表明，所提出的联合熵计算方法在保证精确性的同时具有高效性，使高维数据中的可扩展特征选择成为可能。