[論文レビュー] Large Scale Many-Objective Optimization Driven by Distributional Adversarial Networks

Zhenyu Liang, Yunfan Li+1 more|arXiv (Cornell University)|Mar 16, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 6被引用数 11

ひとこと要約

本稿では、参照ベクトル誘導型進化的（RVEA）と分布的対抗的ネットワーク（DAN）を統合することで収束性と多様性を向上させる、新規の大規模な多目的最適化アルゴリズム、LSA-DANを提案する。DANの分布的フレームワークを活用して安定的かつモードをカバーする後継生成を実現し、高次元空間における効率的探索のための競争的スワーム最適化（LMOCSO）と組み合わせることで、最先端のEAs（RM-MEDAやNSGA-II）と比較して、9つのベンチマークLSMOP問題において優れた性能を達成する。

ABSTRACT

Estimation of distribution algorithms (EDA) as one of the EAs is a stochastic optimization problem which establishes a probability model to describe the distribution of solutions and randomly samples the probability model to create offspring and optimize model and population. Reference Vector Guided Evolutionary (RVEA) based on the EDA framework, having a better performance to solve MaOPs. Besides, using the generative adversarial networks to generate offspring solutions is also a state-of-art thought in EAs instead of crossover and mutation. In this paper, we will propose a novel algorithm based on RVEA[1] framework and using Distributional Adversarial Networks (DAN) [2]to generate new offspring. DAN uses a new distributional framework for adversarial training of neural networks and operates on genuine samples rather than a single point because the framework also leads to more stable training and extraordinarily better mode coverage compared to single-point-sample methods. Thereby, DAN can quickly generate offspring with high convergence regarding the same distribution of data. In addition, we also use Large-Scale Multi-Objective Optimization Based on A Competitive Swarm Optimizer (LMOCSO)[3] to adopts a new two-stage strategy to update the position in order to significantly increase the search efficiency to find optimal solutions in huge decision space. The propose new algorithm will be tested on 9 benchmark problems in Large scale multi-objective problems (LSMOP). To measure the performance, we will compare our proposal algorithm with some state-of-art EAs e.g., RM-MEDA[4], MO-CMA[10] and NSGA-II.

研究の動機と目的

• 高次元の意思決定空間を有する大規模多目的最適化問題（LSMOP）を解く挑戦に応える。
• 従来の変異演算子に代えて生成モデルを用いることで、進化的多目的最適化における収束性と多様性を向上させる。
• 解の生成における対抗的学習の訓練安定性とモードカバレッジを向上させるために、分布的フレームワークを用いる。
• 2段階の競争的スワーム最適化戦略を統合し、大規模な探索空間における収束速度を向上させる。
• 推定分布アルゴリズム（EDA）、生成対抗的ネットワーク、競争的スワーム最適化の長所を統合したハイブリッドアルゴリズムを構築し、LSMOPベンチマークにおける優れた性能を実現する。

提案手法

• 真のパレートフロントに向けた進化的な探索を誘導するため、参照ベクトルを用いるRVEAフレームワークをバックボーンとして採用する。
• 従来の交叉と変異を、有望な解の分布をモデル化することで後継を生成する分布的対抗的ネットワーク（DAN）に置き換える。
• 真のサンプル（単一の点ではなく）を扱う分布的フレームワークをDANに採用し、訓練の安定性とモードカバレッジを向上させる。
• 高次元意思決定空間における探索効率を向上させるために、LMOCSOの2段階位置更新戦略を統合する。
• 解の品質の分布全体を捉える分布的損失関数を用いて、DANの生成器を訓練する。これは単なる点推定ではなく、分布全体を考慮する。
• 識別器を用いて実際の解と生成された解を区別させ、生成器が高品質で多様な後継を生成するように導く。

実験結果

リサーチクエスチョン

• RQ1 分布的GANベースのアプローチは、大規模多目的最適化において従来の進化的演算子を上回ることができるか？
• RQ2 DANとRVEAを統合することで、高次元意思決定空間における収束性と多様性はどのように向上するか？
• RQ3 2段階の競争的スワーム最適化戦略は、大規模問題における探索効率をどの程度向上させるか？
• RQ4 DANにおける分布的フレームワークは、単一の点サンプリング手法と比較して、より良いモードカバレッジとより安定した訓練をもたらすか？
• RQ5 標準的なLSMOPベンチマークにおいて、提案されたLSA-DANアルゴリズムはRM-MEDA、MO-CMA、NSGA-IIといった最先端のEAsと比較してどのように評価されるか？

主な発見

• 提案されたLSA-DANアルゴリズムは、RM-MEDA、MO-CMA、NSGA-IIと比較して、9つの大規模多目的ベンチマーク問題において優れた収束性と多様性指標を達成した。
• DANにおける分布的フレームワークの採用により、単一の点サンプリング手法と比較して、訓練がより安定し、解のモードカバレッジも向上した。
• LMOCSOの2段階位置更新戦略の統合により、高次元意思決定空間における探索効率が顕著に向上した。
• DANに基づく後継生成メカニズムは、従来の交叉と変異と比較して、より高い収束品質と優れた分布的カバレッジを実現した。
• 実験的結果から、LSA-DANは全テスト対象のLSMOP問題において、ハイパーボリュームと逆ジェネレーショナルディスタンスの指標で一貫して最先端のアルゴリズムを上回ることが示された。
• 本手法は多様な問題インスタンスにおいても強力な性能を維持しており、大規模多目的最適化設定における頑健性を示している。