[論文レビュー] Evolutionary Multiobjective Optimization Driven by Generative Adversarial Networks (GANs)

Cheng He, Shihua Huang+3 more|arXiv (Cornell University)|Oct 11, 2019

Advanced Multi-Objective Optimization Algorithms被引用数 5

ひとこと要約

本稿では、高次元の意思決定空間における高品質な後代解を生成するために生成対抗ネットワーク（GANs）を活用する、GMOEAと呼ばれる新しい多目的進化的アルゴリズムを提案する。現在の集団からの実際の（高品質な）および偽物の（低品質な）候補解を用いてGANを訓練することで、生成器は多様で収束性の高い後代を学習し、200次元までの意思決定変数を有するベンチマーク問題において、6つの最先端のMOEAと比較して収束速度と性能が顕著に向上する。

ABSTRACT

Recently, increasing works have proposed to drive evolutionary algorithms using machine learning models. Usually, the performance of such model based evolutionary algorithms is highly dependent on the training qualities of the adopted models. Since it usually requires a certain amount of data (i.e. the candidate solutions generated by the algorithms) for model training, the performance deteriorates rapidly with the increase of the problem scales, due to the curse of dimensionality. To address this issue, we propose a multi-objective evolutionary algorithm driven by the generative adversarial networks (GANs). At each generation of the proposed algorithm, the parent solutions are first classified into real and fake samples to train the GANs; then the offspring solutions are sampled by the trained GANs. Thanks to the powerful generative ability of the GANs, our proposed algorithm is capable of generating promising offspring solutions in high-dimensional decision space with limited training data. The proposed algorithm is tested on 10 benchmark problems with up to 200 decision variables. Experimental results on these test problems demonstrate the effectiveness of the proposed algorithm.

研究の動機と目的

• 次元の呪いの影響により、モデルベースの進化的アルゴリズムが高次元意思決定空間で性能が低下する問題に対処すること。
• GANの生成能力を活用して、最小限の訓練データで有望な後代解を生成すること。
• GANによる生成と従来の進化的演算子を組み合わせることで、多目的最適化における収束性と多様性を向上させること。
• 実際のサンプルと偽物のサンプルに加え、生成されたサンプルを用いることで、識別器の学習を強化する、新しいGANトレーニング戦略の開発。

提案手法

• アルゴリズムは、支配関係に基づいて親解を「実際の」（高品質）と「偽物の」（低品質）のサンプルに分類する。
• GANは、現在の集団のパレート最適解から得られる実際のサンプル、非パレート解から得られる偽物のサンプル、および生成器から得られる生成されたサンプルを用いて訓練される。
• 生成器はパレート最適解の背後にある分布を学習し、高次元空間において新たな高品質な後代をサンプリングできるようになる。
• ハイブリッド再生戦略により、GANベースの生成と従来の確率的演算子（例：SBX）を組み合わせ、探索と活用のバランスを取る。
• 識別器は実際の、偽物の、および生成されたサンプルを区別できるように訓練され、生成された後代の品質と多様性が向上する。
• フレームワークは、GANベースの生成器を性能指標に基づくMOEA（具体的にはIBEA）に統合し、標準的な再生メカニズムを置き換える。

実験結果

リサーチクエスチョン

• RQ1 限られた訓練データで、GANが高次元意思決定空間において高品質で多様な後代解を効果的に生成できるか？
• RQ2 実際の、偽物の、および生成されたサンプルを用いる本稿のGANトレーニング戦略は、標準的なGANトレーニングと比較して、生成された解の品質をどのように向上させるか？
• RQ3 GANベースの生成と従来の進化的演算子を組み合わせることで、多目的最適化における収束性と多様性が向上するか？
• RQ4 本稿で提案するGMOEAは、6つの最先端のMOEAと比較して、高次元MOPにおける収束性とハイパーボリューム性能の面でどのように差をつけるか？

主な発見

• GMOEAは、200次元までの意思決定変数を有する10のベンチマーク問題において、NSGA-II、MOEA/D-DE、GDE3を含む6つの最先端のMOEAsを上回る収束速度と収束品質を達成した。
• GANと遺伝的演算子を組み合わせたハイブリッド再生戦略は、純粋な遺伝的演算子や純粋なGANベースの生成よりも顕著に優れており、探索と活用のバランスの有効性を示している。
• 提案されたGANトレーニング法は、2目的問題では100件のサンプル、3目的問題では105件のサンプルのみで強力な性能を発揮し、高いデータ効率性を示している。
• アブレーションスタディの結果、純粋なGAN演算子およびハイブリッド演算子の両方が、純粋な遺伝的演算子を上回っており、ハイブリッドバージョンがすべてのテストインスタンスで最良の結果を達成した。
• 実行時間解析では、GMOEAはPythonでの標準IBEAに比べて約5倍遅いが、これはオフライン最適化器としてのコストとして妥当であり、GPU加速によりさらに低減可能である。
• 結果から、GAN駆動型MOEAが高次元および多数目的最適化問題の解決に極めて有望であることが示された。