[论文解读] Dealing with Structure Constraints in Evolutionary Pareto Set Learning

Xi Lin, Xiaoyuan Zhang+2 more|arXiv (Cornell University)|Oct 31, 2023

Advanced Multi-Objective Optimization Algorithms被引用 4

一句话总结

该论文提出进化Pareto集学习（EPSL），一种基于模型的进化框架，可在引入用户定义的结构约束条件下，学习连续多目标优化问题的完整Pareto集。通过使用神经网络表示Pareto集并采用进化随机梯度下降进行优化，EPSL使决策者能够在Pareto最优性与期望的解集结构之间实现权衡——在基准问题和真实世界问题上均展现出优越的性能与结构简洁性。

ABSTRACT

In the past few decades, many multiobjective evolutionary optimization algorithms (MOEAs) have been proposed to find a finite set of approximate Pareto solutions for a given problem in a single run, each with its own structure. However, in many real-world applications, it could be desirable to have structure constraints on the entire optimal solution set, which define the patterns shared among all solutions. The current population-based MOEAs cannot properly handle such requirements. In this work, we make the first attempt to incorporate the structure constraints into the whole solution set by a single Pareto set model, which can be efficiently learned by a simple evolutionary stochastic optimization method. With our proposed method, the decision-makers can flexibly trade off the Pareto optimality with preferred structures among all solutions, which is not supported by previous MOEAs. A set of experiments on benchmark test suites and real-world application problems fully demonstrates the efficiency of our proposed method.

研究动机与目标

• 为解决有限种群多目标进化算法（MOEAs）在逼近完整Pareto集方面的局限性，特别是在存在结构约束时的问题。
• 开发一种基于模型的进化方法，将整个Pareto集表示为连续的、参数化的流形，而非有限个解的集合。
• 使决策者能够在优化过程中主动将偏好的结构模式（例如共享组件、多边形链）整合到解集中。
• 通过单一可微模型与进化优化，推广MOEA/D中的分解与协作机制。
• 证明结构化的Pareto集可在显著简化且更易解释的结构下，实现与真实Pareto集几乎相当的超体积（hypervolume）与IGD+性能。

提出的方法

• EPSL使用由参数 $ \boldsymbol{\theta} $ 参数化的神经网络模型 $ h_{\boldsymbol{\theta}}(\boldsymbol{\lambda}) $，将偏好向量 $ \boldsymbol{\lambda} \in \mathbb{R}^m $ 映射到决策变量 $ \boldsymbol{x} \in \mathbb{R}^n $，从而形成对连续Pareto集的近似。
• 该方法通过用单一连续模型同时处理所有偏好，取代MOEA/D中固定的子问题，从而推广其标量化机制。
• 采用进化随机梯度下降方法优化模型参数 $ \boldsymbol{\theta} $，实现对所有偏好的联合学习。
• 通过正则化或对解集的网络架构约束，将结构约束（如多边形链、共享组件）嵌入模型中。
• 框架采用偏好条件前向传播：$ \boldsymbol{\lambda} \rightarrow h_{\boldsymbol{\theta}}(\boldsymbol{\lambda}) \rightarrow \boldsymbol{x} \rightarrow \boldsymbol{F}(\boldsymbol{x}) $，并反向传播梯度通过模型。
• 优化过程通过偏好向量的蒙特卡洛采样实现，使得在与标准MOEAs相同的计算预算下，能够高效地进行基于梯度的训练。

实验结果

研究问题

• RQ1 基于模型的进化框架是否能比有限种群MOEAs更有效地学习黑箱多目标优化问题的完整Pareto集？
• RQ2 如何在优化过程中有效嵌入结构约束（如共享组件或多边形链模式）到Pareto集中？
• RQ3 简化且结构化的Pareto集在收敛性和收敛多样性方面，能在多大程度上与真实Pareto集保持相当的性能？
• RQ4 所提出的方法是否能通过用户定义的结构先验，在Pareto最优性与解集可解释性之间实现有利的权衡？
• RQ5 在真实世界工程问题中，带有结构约束的EPSL性能与无约束EPSL及其他最先进MOEAs相比如何？

主要发现

• 在四杆桁架设计问题（RE21）中，带有多边形链结构约束的EPSL实现了8.23e-03的中位数超体积差距（ΔHV），而无约束EPSL为2.26e-03，表明在实现显著结构简化的同时仅带来微小的性能损失。
• 在RE25问题中，带有多边形链约束的EPSL实现了ΔHV为4.29e-08、IGD+为1.24e-07，性能与无约束版本几乎完全一致。
• 在合成问题（38）中，EPSL成功学习到了接近真实Pareto集的多边形链结构，其Pareto前沿在视觉上与真实前沿高度相似。
• 约束后的Pareto集结构远比无约束版本更简单，但其对应的Pareto前沿仍能提供几乎相当的权衡性能，验证了结构约束权衡的有效性。
• 在所有测试的工程问题中，带有结构约束的EPSL在保持竞争力收敛性和多样性指标的同时，生成了更具可解释性和可说明性的解集。
• 结果证实，EPSL能够有效学习具有期望结构模式的Pareto集，同时保持对真实Pareto前沿的高质量近似。