[論文レビュー] Towards a Theory-Guided Benchmarking Suite for Discrete Black-Box Optimization Heuristics: Profiling $(1+λ)$ EA Variants on OneMax and LeadingOnes

Carola Doerr, Furong Ye+3 more|arXiv (Cornell University)|Aug 17, 2018

Metaheuristic Optimization Algorithms Research参考文献 19被引用数 14

ひとこと要約

本稿は、COCOフレームワークを擬似ブール問題に適応させることで、離散的ブラックボックス最適化の理論誘導型ベンチマークスイートを導入する。これにより、OneMaxおよびLeadingOnesにおける$(1+\lambda)$EAの変種の細分化された実験的分析が可能になる。最適化時間に関する洗練された理論的上限を提示し、理論的上限と実験的結果の間で強い一致を示す。特に、$\lambda \geq 1$ の$(1+\lambda)$EAに対して顕著である。本研究は、離散的進化的計算における理論的・実験的研究を統合する基盤を築く。

ABSTRACT

Theoretical and empirical research on evolutionary computation methods complement each other by providing two fundamentally different approaches towards a better understanding of black-box optimization heuristics. In discrete optimization, both streams developed rather independently of each other, but we observe today an increasing interest in reconciling these two sub-branches. In continuous optimization, the COCO (COmparing Continuous Optimisers) benchmarking suite has established itself as an important platform that theoreticians and practitioners use to exchange research ideas and questions. No widely accepted equivalent exists in the research domain of discrete black-box optimization. Marking an important step towards filling this gap, we adjust the COCO software to pseudo-Boolean optimization problems, and obtain from this a benchmarking environment that allows a fine-grained empirical analysis of discrete black-box heuristics. In this documentation we demonstrate how this test bed can be used to profile the performance of evolutionary algorithms. More concretely, we study the optimization behavior of several $(1+λ)$ EA variants on the two benchmark problems OneMax and LeadingOnes. This comparison motivates a refined analysis for the optimization time of the $(1+λ)$ EA on LeadingOnes.

研究の動機と目的

• 離散的ブラックボックス最適化における理論的・実験的研究のギャップを埋めるために、統一されたベンチマーク環境を構築すること。
• COCOソフトウェアフレームワークを、離散的、擬似ブール最適化問題（例：OneMaxおよびLeadingOnes）のサポートに適応させること。
• 標準的なベンチマーク問題における静的および自己調整パラメータを有する$(1+\lambda)$EA変種の性能を調査すること。
• 実験的知見を活用して、LeadingOnes関数における$(1+\lambda)$EAの最適化時間に関する理論的境界を洗練すること。
• 離散的進化的計算における広く採用されるベンチマークスイートの基盤を築くこと。これは連続最適化におけるCOCOに類似している。

提案手法

• COCOソフトウェアスタックを、OneMaxおよびLeadingOnesなどの離散的、擬似ブール最適化問題をサポートするように適応させること。
• 静的突然変異率および後代個体数$\lambda$を有する$(1+\lambda)$EA変種を実装し、すべての後代が親と異なることを保証する（すなわち、$(1+\lambda)$EA >0）。
• 従来の期待最適化時間に加えて、固定予算の視点から性能を分析すること。
• 1世代あたりの進捗確率を用いて、期待最適化時間の理論的上限を導出する：LeadingOnesでは$1 - (1 - p(1-p)^j)^\lambda$、$(1+\lambda)$EA >0では再サンプリングを考慮して調整する。
• 理論的境界を、$n$および$\lambda$を変化させた複数回の実行からの実験的平均と照合して検証すること。
• $(1+\lambda)$EAのLeadingOnesにおける洗練された分析を導入し、$(1+1)$EA >0と$(1+50)$EA >0の間で観察された性能の類似性に起因する。

実験結果

リサーチクエスチョン

• RQ1 異なる$\lambda$および$p$を有する$(1+\lambda)$EA変種は、OneMaxおよびLeadingOnesにおいて収束速度および安定性の観点でどのように性能を発揮するか？
• RQ2 $(1+\lambda)$EAのLeadingOnesにおける最適化時間の理論的上限は、実験的観察とどの程度一致するか？
• RQ3 $\lambda$の値が著しく異なるにもかかわらず、$(1+1)$EA >0と$(1+50)$EA >0がLeadingOnesでほぼ同一の性能を示すのはなぜか？
• RQ4 実験的プロファイルは、離散的ブラックボックス最適化における理論的実行時間境界の洗練をどのように支援できるか？
• RQ5 理論誘導型離散最適化ベンチマークスイートのためのベンチマーク問題選定に、どのような設計原則を適用すべきか？

主な発見

• $(1+\lambda)$EA >0のLeadingOnesにおける期待最適化時間の理論的上限は、実験的平均と非常に近い一致を示す。特に、中程度の$\lambda$に対して顕著である。
• n=1000の場合、$(1+50)$EA >0の理論的上限は約54.310であるのに対し、実験的平均は55.2%であり、強い一致が確認された。
• $(1+1)$EA >0と$(1+50)$EA >0のLeadingOnesにおける性能はほぼ同一であり、この問題における$(1+\lambda)$EAの洗練された理論的分析を促進する要因となった。
• 定理3における境界は$\lambda=1$に対してタイトであることが確認されており、[17]および[18]の先行研究でも裏付けられている。$\lambda$が大きくなるに従い、1世代あたりに複数の改善後代が得られる確率が低いため、境界は依然としてタイトに近いまま保たれる。
• $(1+\lambda)$EA >0における再サンプリング戦略は、期待される適合度向上を$1/(1 - (1-p)^n)$倍に増加させる。この要因は理論的境界に組み込まれている。
• 実験的結果から、$\lambda$を増加させることで最適化時間が短縮されるが、$\lambda=50$を超えると改善の度合いが鈍り、リターンの逓減が顕著に現れる。