[论文解读] Large Scale Many-Objective Optimization Driven by Distributional Adversarial Networks

Zhenyu Liang, Yunfan Li+1 more|arXiv (Cornell University)|Mar 16, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 6被引用 11

一句话总结

本文提出了一种新颖的大规模多目标优化算法 LSA-DAN，该算法将参考向量引导的进化（RVEA）与分布式对抗网络（DAN）相结合，以提升收敛性和多样性。通过利用 DAN 的分布框架实现稳定且模式覆盖全面的后代生成，并结合一种竞争性社会搜索优化器（LMOCSO）以在高维空间中实现高效搜索，该方法在 9 个基准 LSMOP 问题上的表现优于当前最先进的进化算法（如 RM-MEDA 和 NSGA-II）。

ABSTRACT

Estimation of distribution algorithms (EDA) as one of the EAs is a stochastic optimization problem which establishes a probability model to describe the distribution of solutions and randomly samples the probability model to create offspring and optimize model and population. Reference Vector Guided Evolutionary (RVEA) based on the EDA framework, having a better performance to solve MaOPs. Besides, using the generative adversarial networks to generate offspring solutions is also a state-of-art thought in EAs instead of crossover and mutation. In this paper, we will propose a novel algorithm based on RVEA[1] framework and using Distributional Adversarial Networks (DAN) [2]to generate new offspring. DAN uses a new distributional framework for adversarial training of neural networks and operates on genuine samples rather than a single point because the framework also leads to more stable training and extraordinarily better mode coverage compared to single-point-sample methods. Thereby, DAN can quickly generate offspring with high convergence regarding the same distribution of data. In addition, we also use Large-Scale Multi-Objective Optimization Based on A Competitive Swarm Optimizer (LMOCSO)[3] to adopts a new two-stage strategy to update the position in order to significantly increase the search efficiency to find optimal solutions in huge decision space. The propose new algorithm will be tested on 9 benchmark problems in Large scale multi-objective problems (LSMOP). To measure the performance, we will compare our proposal algorithm with some state-of-art EAs e.g., RM-MEDA[4], MO-CMA[10] and NSGA-II.

研究动机与目标

• 解决具有高维决策空间的大规模多目标优化问题（LSMOPs）的挑战。
• 通过用生成模型替代传统变异算子，提升进化多目标优化中的收敛性和多样性。
• 利用分布框架提升对抗学习中解决方案生成的训练稳定性和模式覆盖性。
• 集成两阶段竞争性社会搜索优化策略，以加速大规模搜索空间中的收敛。
• 开发一种混合算法，结合估计分布算法（EDA）、生成对抗网络和竞争性社会优化的优势，以在 LSMOP 基准测试中实现卓越性能。

提出的方法

• 采用 RVEA 框架作为核心，利用参考向量引导进化搜索，使其趋向真实的帕累托前沿。
• 用分布式对抗网络（DAN）替代传统的交叉和变异操作，通过建模有希望解的分布来生成后代。
• 在 DAN 中采用分布框架，该框架作用于真实样本而非单一点，从而提升训练稳定性和模式覆盖性。
• 集成 LMOCSO 的两阶段位置更新策略，以提升在高维决策空间中的搜索效率。
• 使用分布损失函数训练 DAN 中的生成器，以捕捉解质量的完整分布，而不仅限于点估计。
• 利用判别器区分真实解与生成解，引导生成器产出高质量且多样化的后代。

实验结果

研究问题

• RQ1 基于分布式 GAN 的方法是否能在大规模多目标优化中超越传统进化算子？
• RQ2 DAN 与 RVEA 的集成在高维决策空间中如何提升收敛性和多样性？
• RQ3 两阶段竞争性社会搜索优化策略在大规模问题中在多大程度上提升了搜索效率？
• RQ4 与单点采样方法相比，DAN 中的分布框架是否带来更好的模式覆盖性和更稳定的训练？
• RQ5 所提出的 LSA-DAN 算法在标准 LSMOP 基准测试中与当前最先进的 EAs（如 RM-MEDA、MO-CMA 和 NSGA-II）相比表现如何？

主要发现

• 所提出的 LSA-DAN 算法在 9 个大规模多目标基准问题上，相较于 RM-MEDA、MO-CMA 和 NSGA-II，实现了更优的收敛性和多样性指标。
• 在 DAN 中采用分布框架相比单点采样方法，带来了更稳定的训练和更优的解模式覆盖。
• 集成 LMOCSO 的两阶段位置更新策略显著提升了在高维决策空间中的搜索效率。
• 基于 DAN 的后代生成机制所产生的解在收敛质量与分布覆盖性方面，优于传统交叉和变异操作。
• 实证结果表明，LSA-DAN 在所有测试的 LSMOP 问题中，于超体积（hypervolume）和反向生成距离（inverted generational distance）指标上均持续优于当前最先进的算法。
• 该方法在多种不同的问题实例中均保持优异性能，表明其在大规模多目标优化场景下的强鲁棒性。