[论文解读] Preselection via Classification: A Case Study on Evolutionary Multiobjective Optimization

Jinyuan Zhang, Aimin Zhou+2 more|arXiv (Cornell University)|Aug 3, 2017

Advanced Multi-Objective Optimization Algorithms参考文献 5被引用 5

一句话总结

本文提出了一种基于分类的预选择（CPS）策略，用于多目标进化优化，其中通过在非支配和支配解上训练的分类器，无需评估目标函数即可选择有希望的后代。CPS在多种测试问题上显著提升了三种最先进的MOEA，持续降低了收敛性和超体积指标，表现出优于基线算法的优越性能。

ABSTRACT

In evolutionary algorithms, a preselection operator aims to select the promising offspring solutions from a candidate offspring set. It is usually based on the estimated or real objective values of the candidate offspring solutions. In a sense, the preselection can be treated as a classification procedure, which classifies the candidate offspring solutions into promising ones and unpromising ones. Following this idea, we propose a classification based preselection (CPS) strategy for evolutionary multiobjective optimization. When applying classification based preselection, an evolutionary algorithm maintains two external populations (training data set) that consist of some selected good and bad solutions found so far; then it trains a classifier based on the training data set in each generation. Finally it uses the classifier to filter the unpromising candidate offspring solutions and choose a promising one from the generated candidate offspring set for each parent solution. In such cases, it is not necessary to estimate or evaluate the objective values of the candidate offspring solutions. The classification based preselection is applied to three state-of-the-art multiobjective evolutionary algorithms (MOEAs) and is empirically studied on two sets of test instances. The experimental results suggest that classification based preselection can successfully improve the performance of these MOEAs.

研究动机与目标

• 通过减少对直接评估的依赖，解决多目标进化算法（MOEAs）中目标函数评估的高计算成本问题。
• 通过将预选择问题建模为二分类问题（区分有希望与无希望的后代），提升预选择效率。
• 开发一种通用且可重用的CPS框架，适用于不同MOEA范式——基于Pareto支配、基于指标和基于分解的框架。
• 通过在具有不同Pareto前沿形状的多样化、复杂测试实例上进行实证验证，证明CPS的有效性。
• 探索利用分类器预测指导后代选择的潜力，而无需代理模型估计。

提出的方法

• 维护两个外部种群：一个为非支配（有希望）解，另一个为支配（无希望）解，作为训练数据。
• 在每代中，基于当前训练数据集训练一个二分类器，以预测候选后代的标签。
• 为每个父代生成候选后代，并使用分类器预测每个后代是否具有希望或无希望。
• 仅选择得分最高（预测为有希望）的后代进入环境选择，避免目标函数评估。
• 将CPS策略应用于三种MOEA框架：RM-MEDA、SMS-EMOA和MOEA/D-MO，无缝集成到其选择流程中。
• 采用动态数据准备策略：持续将新发现的所有非支配和支配解加入训练集。

实验结果

研究问题

• RQ1 基于分类的预选择策略是否能有效减少MOEAs中昂贵的目标函数评估次数？
• RQ2 所提出的CPS策略是否在不同MOEA框架中均能改善收敛性和多样性指标？
• RQ3 在具有复杂、不规则Pareto前沿的测试问题上，CPS与基线MOEA相比，在IGD和逆向生成距离（I⁻H）指标上的表现如何？
• RQ4 CPS在不同类型的多目标优化问题（包括退化或不连通前沿的问题）中，性能提升是否具有一致性？
• RQ5 动态训练数据更新策略对分类器准确率和整体算法性能有何影响？

主要发现

• 在9个测试实例中的5个上，CPS显著提升了RM-MEDA的IGD表现，其余实例无性能下降，且在9个实例中的7个上，IGD指标优于基线；在I⁻H指标上，RM-MEDA-CPS在全部9个实例上表现更优。
• SMS-EMOA-CPS在全部9个测试实例上均优于SMS-EMOA（I⁻H指标），在8个实例上优于IGD指标。
• MOEA/D-MO-CPS在5个实例上优于MOEA/D-MO（IGD指标），在4个实例上优于I⁻H指标，其余实例无性能损失。
• 在LZ6（含595个个体）上，CPS将IGD从2.08e-01降低至1.00e-01，I⁻H从4.15e-01降低至2.07e-01，表明收敛性显著改善。
• CPS变体在所有测试实例中均实现了更好或相当的性能，无任何实例出现性能下降，证实了其鲁棒性。
• 该方法成功通过完全依赖分类器预测，消除了对候选后代目标函数评估的需求，显著降低了计算成本。