[論文レビュー] Dealing with Structure Constraints in Evolutionary Pareto Set Learning

Xi Lin, Xiaoyuan Zhang+2 more|arXiv (Cornell University)|Oct 31, 2023

Advanced Multi-Objective Optimization Algorithms被引用数 4

ひとこと要約

本稿では、連続的多目的最適化問題の全パラメーターマニフォールドとしてのパラトゥー集合を学習可能であり、ユーザー定義の構造制約を組み込むモデルベースの進化的フレームワーク、進化的パラトゥー集合学習（EPSL）を提案する。MOEA/Dをニューラルネットワークで一般化し、パラトゥー集合を表現する。進化的確率的勾配降下法により最適化することで、意思決定者がパラトゥー最適性と望ましい解集合の構造の間でトレードオフを実現可能となる。ベンチマークおよび実世界の問題において、優れた性能と構造的単純性を示した。

ABSTRACT

In the past few decades, many multiobjective evolutionary optimization algorithms (MOEAs) have been proposed to find a finite set of approximate Pareto solutions for a given problem in a single run, each with its own structure. However, in many real-world applications, it could be desirable to have structure constraints on the entire optimal solution set, which define the patterns shared among all solutions. The current population-based MOEAs cannot properly handle such requirements. In this work, we make the first attempt to incorporate the structure constraints into the whole solution set by a single Pareto set model, which can be efficiently learned by a simple evolutionary stochastic optimization method. With our proposed method, the decision-makers can flexibly trade off the Pareto optimality with preferred structures among all solutions, which is not supported by previous MOEAs. A set of experiments on benchmark test suites and real-world application problems fully demonstrates the efficiency of our proposed method.

研究の動機と目的

• 有限個の個体群に依存するMOEAsの限界、特に構造制約下での全パラトゥー集合の近似の困難さを解決すること。
• 有限個の解としてではなく、連続的かつパラメータ化された多様体として全パラトゥー集合を学習するモデルベースの進的最適化手法を開発すること。
• 最適化中に望ましい構造的パターン（例：共通部品、多角形チェーン）を能動的に解集合に組み込むことにより、意思決定者による制御を可能にすること。
• MOEA/Dにおける分解と協調の一般化を、1つの微分可能モデルと進化的最適化によって実現すること。
• 構造的パラトゥー集合が、顕著に単純で解釈性の高い構造を持つにもかかわらず、真のパラトゥー集合とほぼ同等のハイパーボリュームおよびIGD+性能を達成できることを示すこと。

提案手法

• EPSLは、パラメータ $ \boldsymbol{\theta} $ でパラメータ化されたニューラルネットワークモデル $ h_{\boldsymbol{\theta}}(\boldsymbol{\lambda}) $ を用い、重みベクトル $ \boldsymbol{\lambda} \in \mathbb{R}^m $ を意思決定変数 $ \boldsymbol{x} \in \mathbb{R}^n $ にマッピングすることで、連続的パラトゥー集合近似を形成する。
• 固定された部分問題に置き換えるのではなく、すべての好みを一度に処理できる連続的モデルに一般化することで、MOEA/Dのスカラライゼーションを拡張する。
• すべての好みにわたる統合的学習を可能にするために、モデルパラメータ $ \boldsymbol{\theta} $ を最適化する進化的確率的勾配降下法を採用する。
• 多角形チェーンや共通部品といった構造制約は、解集合に正則化またはアーキテクチャ制約を介してモデルに埋め込む。
• フレームワークは、好みに依存した順方向伝搬を用いる：$ \boldsymbol{\lambda} \rightarrow h_{\boldsymbol{\theta}}(\boldsymbol{\lambda}) \rightarrow \boldsymbol{x} \rightarrow \boldsymbol{F}(\boldsymbol{x}) $、勾配はモデルを逆伝搬する。
• 最適化は、好みベクトルのモンテカルロサンプルを用いて実施され、標準的なMOEAsと同等の計算予算で効率的な勾配ベースの学習が可能となる。

実験結果

リサーチクエスチョン

• RQ1 モデルベースの進的フレームワークは、有限個の個体群に依存するMOEAsに比べ、ブラックボックス多目的最適化問題の全パラトゥー集合をより効果的に学習できるか？
• RQ2 共通部品や多角形チェーンパターンといった構造制約を、最適化中にパラトゥー集合に効果的に埋め込む方法は何か？
• RQ3 単純化された構造的パラトゥー集合は、真のパラトゥー集合と比較して、収束性および多様性の観点でどの程度の性能を維持できるか？
• RQ4 ユーザー定義の構造的事前知識を用いることで、パラトゥー最適性と解集合の解釈性の間で良好なトレードオフを達成できるか？
• RQ5 実世界の工学的問題において、構造制約付きのEPSLは、制約なしのEPSLおよび他の最先端MOEAsに比べてどの程度の性能を示すか？

主な発見

• 四スラストトラス設計問題（RE21）において、多角形チェーン構造制約付きのEPSLは、ハイパーボリュームギャップ（ΔHV）が8.23e-03であったのに対し、制約なしのEPSLは2.26e-03であった。これは、顕著な構造的単純化に対してわずかな性能の犠牲を払うことで実現された。
• RE25問題では、多角形チェーン制約付きのEPSLがΔHV 4.29e-08およびIGD+ 1.24e-07を達成し、制約なしバージョンとほぼ同一の性能を示した。
• 合成問題（38）において、EPSLは真のパラトゥー集合に非常に近い多角形チェーン構造を効果的に学習し、視覚的に類似したパラトゥー前線を再現した。
• 制約付きパラトゥー集合は制約なしのものよりもはるかに単純な構造を持っていたが、対応するパラトゥー前線はほぼ同等のトレードオフを提供しており、構造制約のトレードオフの有効性が裏付けられた。
• テストされたすべての工学的問題において、構造制約付きのEPSLは、競争力のある収束性および多様性指標を維持しながら、より解釈可能で説明可能な解集合を生成した。
• 結果から、EPSLは望ましい構造的パターンを有するパラトゥー集合を効果的に学習可能であり、真のパラトゥー前線への高品質な近似を維持できることを確認した。