[论文解读] Evolutionary Multiobjective Optimization Driven by Generative Adversarial Networks (GANs)

Cheng He, Shihua Huang+3 more|arXiv (Cornell University)|Oct 11, 2019

Advanced Multi-Objective Optimization Algorithms被引用 5

一句话总结

本文提出GMOEA，一种新颖的多目标进化算法，利用生成对抗网络（GAN）在高维决策空间中生成高质量的后代解。通过在当前种群中对真实（高质量）和虚假（低质量）候选解进行训练，GAN的生成器学习生成多样化且收敛的后代解，显著提升了在最多200个决策变量的基准问题上的收敛速度与性能，相较于六种最先进的多目标进化算法（MOEAs）表现更优。

ABSTRACT

Recently, increasing works have proposed to drive evolutionary algorithms using machine learning models. Usually, the performance of such model based evolutionary algorithms is highly dependent on the training qualities of the adopted models. Since it usually requires a certain amount of data (i.e. the candidate solutions generated by the algorithms) for model training, the performance deteriorates rapidly with the increase of the problem scales, due to the curse of dimensionality. To address this issue, we propose a multi-objective evolutionary algorithm driven by the generative adversarial networks (GANs). At each generation of the proposed algorithm, the parent solutions are first classified into real and fake samples to train the GANs; then the offspring solutions are sampled by the trained GANs. Thanks to the powerful generative ability of the GANs, our proposed algorithm is capable of generating promising offspring solutions in high-dimensional decision space with limited training data. The proposed algorithm is tested on 10 benchmark problems with up to 200 decision variables. Experimental results on these test problems demonstrate the effectiveness of the proposed algorithm.

研究动机与目标

• 为解决基于模型的进化算法在高维决策空间中因维度灾难导致的性能下降问题。
• 利用GAN的生成能力，在极少训练数据下生成有前景的后代解。
• 通过结合基于GAN的生成与传统进化算子，提升多目标优化中的收敛性与多样性。
• 提出一种新型GAN训练策略，同时利用真实样本与虚假样本（包括生成样本），以增强判别器的学习能力。

提出的方法

• 该算法根据解的支配关系，将父代解分类为真实（高质量）和虚假（低质量）样本。
• 使用真实样本（来自当前种群的帕累托最优解）、虚假样本（非帕累托解）以及生成器生成的样本，训练GAN。
• 生成器学习帕累托最优解的潜在分布，从而能够在高维空间中采样出新的高质量后代解。
• 采用混合繁殖策略，结合基于GAN的生成与传统随机算子（如SBX），以平衡探索与开发。
• 判别器被训练以区分真实样本、虚假样本与生成样本，从而提升生成后代的质量与多样性。
• 该框架将基于GAN的生成器集成到基于性能指标的MOEA（具体为IBEA）中，替代标准的繁殖机制。

实验结果

研究问题

• RQ1 在训练数据有限的条件下，GAN能否在高维决策空间中有效生成高质量且多样的后代解？
• RQ2 所提出的GAN训练策略（同时使用真实、虚假与生成样本）相比标准GAN训练，是否能显著提升生成解的质量？
• RQ3 将基于GAN的生成与传统进化算子相结合，是否能有效提升多目标优化中的收敛性与多样性？
• RQ4 在高维多目标问题上，所提出的GMOEA与六种最先进的MOEAs相比，在收敛性与超体积性能方面表现如何？

主要发现

• GMOEA在最多200个决策变量的10个基准问题上，相较于六种最先进的MOEAs（包括NSGA-II、MOEA/D-DE和GDE3），在收敛速度与收敛质量方面均表现更优。
• 混合繁殖策略（结合GAN与遗传算子）显著优于仅使用遗传算子或仅使用GAN生成的策略，证明了探索与开发之间平衡的有效性。
• 所提出的GAN训练方法在仅使用100个样本（两目标问题）和105个样本（三目标问题）的情况下即实现优异性能，表明其具有极高的数据效率。
• 消融实验表明，纯GAN算子与混合算子均优于纯遗传算子，且混合版本在所有测试实例中均取得最佳结果。
• 运行时间分析显示，GMOEA在Python中比标准IBEA慢约五倍，但该开销对于离线优化器而言可接受，且可通过GPU加速进一步降低。
• 结果表明，基于GAN的MOEA在求解高维与多目标优化问题方面极具前景。