[論文レビュー] A Mathematical Runtime Analysis of the Non-dominated Sorting Genetic Algorithm III (NSGA-III)

Simon Wietheger, Benjamin Doerr|arXiv (Cornell University)|Nov 15, 2022

Advanced Multi-Objective Optimization Algorithms参考文献 31被引用数 6

ひとこと要約

本論文は、NSGA-IIIの最初の数学的ランタイム解析を提示し、母集団サイズがパレートフロントのサイズに等しい場合、および参考点の数がフロントサイズのわずかな定数倍である場合、3目的のOneMinMax（3-OMM）問題の完全なパレートフロントを期待値O(n log n)回の反復で計算することを証明している。NSGA-IIとは異なり、クラスタリング距離による最適解の喪失を回避するNSGA-IIIの参考点ベース選択は、すべてのフロント解を保持し、効率的な収束を可能にする。

ABSTRACT

The Non-dominated Sorting Genetic Algorithm II (NSGA-II) is the most prominent multi-objective evolutionary algorithm for real-world applications. While it performs evidently well on bi-objective optimization problems, empirical studies suggest that it is less effective when applied to problems with more than two objectives. A recent mathematical runtime analysis confirmed this observation by proving the NGSA-II for an exponential number of iterations misses a constant factor of the Pareto front of the simple 3-objective OneMinMax problem. In this work, we provide the first mathematical runtime analysis of the NSGA-III, a refinement of the NSGA-II aimed at better handling more than two objectives. We prove that the NSGA-III with sufficiently many reference points -- a small constant factor more than the size of the Pareto front, as suggested for this algorithm -- computes the complete Pareto front of the 3-objective OneMinMax benchmark in an expected number of O(n log n) iterations. This result holds for all population sizes (that are at least the size of the Pareto front). It shows a drastic advantage of the NSGA-III over the NSGA-II on this benchmark. The mathematical arguments used here and in previous work on the NSGA-II suggest that similar findings are likely for other benchmarks with three or more objectives.

研究の動機と目的

• NSGA-IIIの最初の厳密な数学的ランタイム解析を提供すること。NSGA-IIIは多数の目的関数を対象とした多目的進化的アルゴリズムである。
• NSGA-IIの制限を、2つ以上の目的関数を持つ問題において克服できるかを調査すること。特に、パレート最適解の喪失という点で。
• 3-OMMベンチマーク問題におけるNSGA-IIIの完全なパレートフロントへの収束時間について理論的保証を確立すること。
• NSGA-IIIの参考点ベース選択メカニズムが、パレートフロントの多様性とカバレッジを維持する有効性を検証すること。

提案手法

• 解析は、NSGA-IIIが3-OMM問題の完全なパレートフロントをカバーするまでの期待反復回数を評価する数学的ランタイムフレームワークを用いる。
• 選択プロセスは、目的空間における参考点を用いてモデル化され、各パレート最適解が少なくとも1つの固有の参考点に関連付けられるようにする。
• 証明は、パレートフロントの点に対応する解が一度でもサンプリングされると、参考点割り当てメカニズムのおかげでその個体群から消失しないことを示すことに依存する。
• 標準的なビット変異（各ビットあたり1/n）を仮定し、母集団サイズがパレートフロントのサイズに等しいかそれ以上であると仮定する。
• 十分に多くの参考点（パレートフロントサイズのわずかな定数倍）がある場合、アルゴリズムがフロントの完全なカバレッジを維持することを示している。
• 理論的結果は、母集団サイズと交差率を変化させた3-OMM問題におけるNSGA-IIIとNSGA-IIの比較による実験によって裏付けられている。

実験結果

リサーチクエスチョン

• RQ1 NSGA-IIIは、NSGA-IIとは異なり、探索プロセス中にパレート最適解を失うことはないか？
• RQ2 3-OMM問題におけるNSGA-IIIの完全なパレートフロントカバレッジに至る期待ランタイムは何か？
• RQ3 参考点の数は、NSGA-IIIの個体群がパレートフロントカバレッジを維持する際の収束性と安定性にどのように影響するか？
• RQ4 NSGA-IIIの理論的保証は、3-OMMを越えて他の多目的問題へも拡張可能か？
• RQ5 変異と交差演算子は、実際のNSGA-IIIの収束速度にどのように影響するか？

主な発見

• 母集団サイズがパレートフロントのサイズに等しく、かつ参考点の数がフロントサイズのわずかな定数倍である場合、NSGA-IIIはパレート最適解が見つかった後、その解が個体群から消失することはない。
• アルゴリズムは、3-OMM問題の完全なパレートフロントを期待値O(n log n)回の反復で計算する。
• このランタイムは、NSGA-IIに比べて顕著に優れている。NSGA-IIは、解の喪失のため、部分的でない完全なパレートフロントに到達するのに指数時間未満の時間では到達できないことが証明されている。
• 実験結果により、NSGA-IIIは300回未満の反復で完全なパレートフロントカバレッジに到達するが、NSGA-IIは母集団サイズにかかわらず部分的カバレッジに停滞することが確認された。
• 一様交差を用いることでランタイムが延びることから、主な進捗は変異によって駆動されていることが示唆され、理論的解析における変異の焦点が正当化される。
• NSGA-IIIの主な理論的利点は、参考点の幾何的分離のおかげで、複数の解が同じ参考点に割り当てられるのを防ぎ、すべてのパレート最適解を維持できる点にある。