[論文レビュー] Runtime Analysis of Single- and Multi-Objective Evolutionary Algorithms for Chance Constrained Optimization Problems with Normally Distributed Random Variables

Frank Neumann, Carsten Witt|arXiv (Cornell University)|Sep 13, 2021

Advanced Multi-Objective Optimization Algorithms参考文献 32被引用数 4

ひとこと要約

本稿では、正規分布に従う確率的変数を伴う確率的制約付き最適化のための多目的進化的アルゴリズムフレームワークを提案する。問題を期待コストと分散のトレードオフに再定式化することで、任意の信頼水準 α ≥ 1/2 に対して、GSEMOおよび凸包に基づくアルゴリズムを用いて期待多項式時間で最適解を計算可能であることを証明した。これにより、制約付きインスタンスにおいて単目的の (1+1) EA が示す指数的実行時間の問題を克服した。

ABSTRACT

Chance constrained optimization problems allow to model problems where constraints involving stochastic components should only be violated with a small probability. Evolutionary algorithms have been applied to this scenario and shown to achieve high quality results. With this paper, we contribute to the theoretical understanding of evolutionary algorithms for chance constrained optimization. We study the scenario of stochastic components that are independent and normally distributed. Considering the simple single-objective (1+1) EA, we show that imposing an additional uniform constraint already leads to local optima for very restricted scenarios and an exponential optimization time. We therefore introduce a multi-objective formulation of the problem which trades off the expected cost and its variance. We show that multi-objective evolutionary algorithms are highly effective when using this formulation and obtain a set of solutions that contains an optimal solution for any possible confidence level imposed on the constraint. Furthermore, we prove that this approach can also be used to compute a set of optimal solutions for the chance constrained minimum spanning tree problem. In order to deal with potentially exponentially many trade-offs in the multi-objective formulation, we propose and analyze improved convex multi-objective approaches. Experimental investigations on instances of the NP-hard stochastic minimum weight dominating set problem confirm the benefit of the multi-objective and the improved convex multi-objective approach in practice.

研究の動機と目的

• 正規分布を伴う確率的成分を有する確率的制約付き最適化問題において、単目的進化的アルゴリズムの理論的限界を解消すること。
• 期待コストと分散のトレードオフを実現する多目的定式化を構築し、任意の信頼水準 α ≥ 1/2 に対して最適解を達成できることを保証すること。
• 制約付きインスタンスにおいて (1+1) EA が示す指数的実行時間のボトル neck を、パレート最適化アプローチを導入することで克服すること。
• 目的関数間のトレードオフが指数的多数に及ぶ場合でも、多項式実行時間の維持を可能にする凸包に基づく進化的アルゴリズムを設計すること。
• NP困難な確率的最小重み支配集合問題に対して、実験的に本手法の有効性を検証すること。

提案手法

• 正規分布の性質を活用し、期待値と標準偏差の線形結合を用いて確率的制約付き問題を決定的同等問題に再定式化する。
• 目的関数として期待コストと解の分散を用いる多目的定式化を導入し、任意の信頼水準 α ≥ 1/2 におけるトレードオフを可能にする。
• パレート最適化に GSEMO アルゴリズムを用い、α ≥ 1/2 の場合に期待多項式時間で最適解の集合を計算可能であることを証明する。
• パレート最適なトレードオフの数が指数的多数に及んでも、多項式期待実行時間を維持できる凸包に基づく進化的アルゴリズムを提案する。
• 確率的制約付き最小全域木問題に本フレームワークを適用し、任意の α ≥ 1/2 に対して最適解を達成できることを示す。
• 確率的最小重み支配集合インスタンスに対して実験的評価を実施し、多目的および凸包ベースの手法の実用的利点を検証する。

実験結果

リサーチクエスチョン

• RQ1 (1+1) EA は、基数制約が課された正規分布を伴う確率的制約付き最適化問題を、効率的に解けるか？
• RQ2 期待コストと分散のトレードオフを実現する多目的定式化は、任意の信頼水準 α ≥ 1/2 に対して最適解をもたらすか？
• RQ3 パレート最適なトレードオフの数が指数的多数に達する場合でも、凸包に基づく進化的アルゴリズムは多項式期待実行時間を維持できるか？
• RQ4 提案された多目的フレームワークは、確率的最小重み支配集合のような NP 困難な確率的制約付き問題に有効か？
• RQ5 実世界のインスタンスにおいて、多目的手法は単目的手法と比較して実際の性能で優れているか？

主な発見

• 非線形な目的関数が原因で局所最適解が生じるため、(1+1) EA は単純な確率的制約付きインスタンスに対しても指数的実行時間を示す。
• 期待コストと分散を用いた多目的定式化により、極端な点が任意の α ≥ 1/2 に対する最適解に対応するパレートフロントが得られる。
• GSEMO は、個体数が多項式に保たれる限り、任意の α ≥ 1/2 に対して最適解の完全な集合を期待多項式時間で計算可能である。
• パラメータ数が指数的多数に達する場合でも、凸包に基づく進化的アルゴリズムは、任意の α ≥ 1/2 に対して最適解を期待多項式時間で計算可能である。
• 確率的最小重み支配集合問題に対する実験結果から、多目的および凸包ベースの手法が単目的手法に比べて顕著な性能向上を示した。
• 信頼水準 α = 1.0E-16 の場合、大規模ネットワーク（ca-GrQc）において平均1060万回未満の反復で最適解が達成され、スケーラビリティが実証された。