[论文解读] A Stable Combinatorial Particle Swarm Optimization for Scalable Feature Selection in Gene Expression Data

Hassen Dhrif, Luis G. Sánchez Giraldo+2 more|arXiv (Cornell University)|Jan 24, 2019

Metaheuristic Optimization Algorithms Research参考文献 38被引用 7

一句话总结

本文提出一种新型的组合型粒子群优化算法 COMB-PSO，通过连续空间编码、自适应惯性权重与加速系数、动态种群策略以及湍流算子，显著提升了高维基因表达数据特征选择中的稳定性、多样性与可扩展性。与标准 PSO 变体相比，COMB-PSO 能够识别出更小且更精确的基因子集，在真实癌症数据集上显著优于 BPSO 和 MOPSO。

ABSTRACT

Evolutionary computation (EC) algorithms, such as discrete and multi-objective versions of particle swarm optimization (PSO), have been applied to solve the Feature selection (FS) problem, tackling the combinatorial explosion of search spaces that are peppered with local minima. Furthermore, high-dimensional FS problems such as finding a small set of biomarkers to make a diagnostic call add an additional challenge as such methods ability to pick out the most important features must remain unchanged in decision spaces of increasing dimensions and presence of irrelevant features. We developed a combinatorial PSO algorithm, called COMB-PSO, that scales up to high-dimensional gene expression data while still selecting the smallest subsets of genes that allow reliable classification of samples. In particular, COMB-PSO enhances the encoding, speed of convergence, control of divergence and diversity of the conventional PSO algorithm, balancing exploration and exploitation of the search space. Applying our approach on real gene expression data of different cancers, COMB-PSO finds gene sets of smallest size that allow a reliable classification of the underlying disease classes.

研究动机与目标

• 解决标准 PSO 在高维基因表达数据特征选择中出现的不稳定与早熟收敛问题。
• 在样本量少、特征数多的数据集中，减少所选基因子集的大小，同时保持高分类准确率。
• 增强群体多样性，并在组合搜索空间中平衡探索与开发。
• 在特征空间中加入无关特征时，确保算法的可扩展性与鲁棒性。
• 开发一种稳定且可扩展的 PSO 变体，在真实生物数据集上优于现有的离散型与多目标 PSO 方法。

提出的方法

• 提出一种连续空间编码方案，将粒子位置映射为概率，保留连续 PSO 的动力学特性，提升搜索能力。
• 基于位置与速度动态调整惯性权重与加速系数，以自适应方式平衡探索与开发。
• 采用动态种群策略，加速收敛并提升全局最优解的发现效率。
• 引入湍流算子，帮助跳出局部最优，增强群体多样性。
• 使用非对称位置边界，将粒子约束在含较少置位（set bits）的解空间，偏好更小的特征子集。
• 在多目标变体中实现局部领导者选择机制，以维持群体一致性，并采用基于相似度的多样性机制，保留非支配解。

实验结果

研究问题

• RQ1 当在高维基因表达数据中加入无关特征时，改进后的 PSO 算法是否能保持稳定且较小的特征子集大小？
• RQ2 在真实癌症数据集上，COMB-PSO 与标准 BPSO 和 MOPSO 在子集大小、分类准确率与收敛速度方面相比如何？
• RQ3 连续空间编码与自适应参数控制在组合特征选择中，对搜索多样性与收敛性提升的贡献程度如何？
• RQ4 COMB-PSO 的多目标版本是否能产生比单目标版本更小且更精确的基因子集？
• RQ5 COMB-PSO 在具有数万个特征与数百个样本的数据集上具有多高的可扩展性？

主要发现

• 在三个真实基因表达数据集上，COMB-PSO 显著优于标准 BPSO 与 MOPSO，识别出更小的基因子集且分类错误率更低。
• COMB-PSO 的多目标变体生成的特征子集比单目标变体更小，同时保持了相近的分类准确率。
• 在合成数据集上，COMB-PSO 在无关特征数量增加时仍能保持稳定的子集大小，表现出对高维噪声的强鲁棒性。
• 在白血病2号、前列腺肿瘤与B细胞淋巴瘤数据集上，该算法以极小的特征集实现了高分类准确率，验证有效。
• 尽管 SO-COMB-PSO 与 MO-COMB-PSO 在错误率与强相关特征覆盖率方面表现相近，但子集大小存在差异，其中 MO-COMB-PSO 产生更紧凑的解。
• 该算法在超大规模数据集上的计算成本仍较高，表明其在可扩展性方面仍有进一步优化空间。