[论文解读] New crossover operators for multiple subset selection tasks

Arnab Roy, J. David Schaffer+1 more|arXiv (Cornell University)|Aug 6, 2014

Fuzzy Logic and Control Systems参考文献 33被引用 8

一句话总结

本文提出了两种新颖的遗传算法交叉算子——MMX-BLX exploit 和 MMX-BLX explore，专为具有数值属性且子集大小可变的多个子集同时选择而设计。两种算子在探索与利用之间有所区别：MMX-BLX explore 保持准恒定的突变率，从而增强泛化能力；而 MMX-BLX exploit 通过正向尊重机制强调收敛控制。在基于 EEG 的酒精使用障碍检测中，MMX-BLX explore 在测试集上表现显著更优（例如，惩罚值为 0.0417 vs. 0.1282），表明其具有更强的鲁棒性。

ABSTRACT

We have introduced two crossover operators, MMX-BLXexploit and MMX-BLXexplore, for simultaneously solving multiple feature/subset selection problems where the features may have numeric attributes and the subset sizes are not predefined. These operators differ on the level of exploration and exploitation they perform; one is designed to produce convergence controlled mutation and the other exhibits a quasi-constant mutation rate. We illustrate the characteristic of these operators by evolving pattern detectors to distinguish alcoholics from controls using their visually evoked response potentials (VERPs). This task encapsulates two groups of subset selection problems; choosing a subset of EEG leads along with the lead-weights (features with attributes) and the other that defines the temporal pattern that characterizes the alcoholic VERPs. We observed better generalization performance from MMX-BLXexplore. Perhaps, MMX-BLXexploit was handicapped by not having a restart mechanism. These operators are novel and appears to hold promise for solving simultaneous feature selection problems.

研究动机与目标

• 解决多个子集选择问题的挑战，其中特征可能具有数值属性，且子集大小未预先定义。
• 开发在基于遗传算法的特征选择中平衡探索与利用的交叉算子。
• 在真实世界神经生理数据分析中提升泛化能力，特别是通过诱发反应区分酒精使用障碍患者与对照组的大脑反应。
• 通过受 BLX 启发的混合机制，将现有基于 MMX 的交叉算子扩展至支持可变子集大小和数值特征属性。

提出的方法

• 提出 MMX-BLX exploit 和 MMX-BLX explore 作为 MMX-SSS 交叉算子的扩展，引入 BLX（混合交叉）机制以处理数值属性和可变子集大小。
• MMX-BLX exploit 强制执行正向尊重（从双亲继承共同特征），并采用收敛控制的突变，随时间减少遗传多样性。
• MMX-BLX explore 牺牲部分尊重以维持准恒定的突变率，促进持续探索和多样性。
• 在视觉诱发电位（VERPs）的 EEG 数据上，使用包装器模型评估了这些算子，任务涉及同时选择带权重的 EEG 导联和时间模式。
• 采用时间模式检测器（TPD）对复杂时空模式进行编码和演化，实现分类器的直接演化，而无需预先定义特征向量。
• 演化过程由种群惩罚函数引导，性能在三个独立实验的训练集和测试集上进行评估。

实验结果

研究问题

• RQ1 能否设计出有效的交叉算子，以在具有数值特征属性的多子集选择中有效平衡探索与利用？
• RQ2 在基于遗传算法的神经生理数据特征选择中，维持准恒定突变率是否能提升泛化能力？
• RQ3 收敛控制突变与基于尊重的继承如何影响真实世界 EEG 分类任务的性能？
• RQ4 单一演化过程能否同时优化神经生理分类问题的空间（传感器选择）与时间（模式检测）方面？

主要发现

• MMX-BLX explore 在泛化性能上显著优于 MMX-BLX exploit，三个实验的测试集惩罚值分别为 0.0417、0.0703 和 0.0906，而 MMX-BLX exploit 的对应值为 0.1282、0.0900 和 0.1283。
• MMX-BLX exploit 展现出收敛控制的突变，突变事件在第 1500 代时降至零，表明随时间推移探索能力下降。
• MMX-BLX explore 维持了准恒定的突变率，保持了遗传多样性，并使探索持续到至少第 5000 代。
• 演化过程自发地优先选择空间特征（EEG 导联选择），随后转向时间模式优化，且未预设任务顺序即自然涌现。
• 尽管训练集表现略优，但 MMX-BLX exploit 缺乏软重启机制，可能阻碍其泛化能力，提示收敛控制算子需引入此类机制。
• 基于 TPD 的演化方法成功一步完成分类任务，避免了传统方法中常需预先构建特征向量的步骤。