[論文レビュー] On the Effectiveness of Simple Success-Based Parameter Selection Mechanisms for Two Classical Discrete Black-Box Optimization Benchmark Problems

Carola Doerr, Markus Wagner|arXiv (Cornell University)|Mar 4, 2018

Metaheuristic Optimization Algorithms Research参考文献 17被引用数 8

ひとこと要約

本稿では、(1+1)進化計算における単純な成功に基づく乗法的パラメータ制御ルールを提案する。この手法は、各世代が改善をもたらしたかどうかに応じて突然変異率を調整する。OneMaxおよびLeadingOnes問題において近似的に最適な性能を達成し、LeadingOnesでは最良の静的ユニタリ非偏見ブラックボックスアルゴリズムを最大18%の速度向上で上回る。これは、高性能を達成するためには複雑な適応的メカニズムに依存する必要がないことを示している。

ABSTRACT

Despite significant empirical and theoretically supported evidence that non-static parameter choices can be strongly beneficial in evolutionary computation, the question how to best adjust parameter values plays only a marginal role in contemporary research on discrete black-box optimization. This has led to the unsatisfactory situation in which feedback-free parameter selection rules such as the cooling schedule of Simulated Annealing are predominant in state-of-the-art heuristics, while, at the same time, we understand very well that such time-dependent selection rules can only perform worse than adjustment rules that do take into account the evolution of the optimization process. A number of adaptive and self-adaptive parameter control strategies have been proposed in the literature, but did not (yet) make their way to a broader public. A key obstacle seems to lie in their rather complex update rules. The purpose of our work is to demonstrate that high-performing online parameter selection rules do not have to be very complicated. More precisely, we experiment with a multiplicative, comparison-based update rule to adjust the mutation probability of a (1+1)~Evolutionary Algorithm. We show that this simple self-adjusting rule outperforms the best static unary unbiased black-box algorithm on LeadingOnes, achieving an almost optimal speedup of about~$18\%$.

研究の動機と目的

• 離散ブラックボックス最適化において、単純なフィードバックベースのパラメータ制御機構が静的パラメータ選択を上回る可能性があるかを調査すること。
• 進化計算における突然変異率を調整するための乗法的・比較ベースの更新ルールの有効性を評価すること。
• 高性能なオンラインパラメータ選択が、複雑な適応的または自己適応的メカニズムに依存する必要がないことを示すこと。
• 提案された適応的(1+1)EAの変種が、古典的なベンチマーク問題において静的および最適なユニタリ非偏見ブラックボックスアルゴリズムと比較してどのように性能を示すかを評価すること。
• 本手法のスケーラビリティおよび多様な問題次元とパラメータ設定においてのロバスト性を検討すること。

提案手法

• 成功または失敗に基づき、改善が得られた場合に突然変異率をA > 1の要因で増加させ、改善が得られなかった場合にb < 1の要因で減少させる乗法的更新ルールを用いる。
• 突然変異率は初期値p₀ = 1/nとして設定され、直前の世代の成功または失敗に基づいてオンラインで更新される。
• アルゴリズムは、親と異なる後継者しか評価しない(1+1)EAの変種に適用され、重複評価を回避する。
• 更新ルールは比較ベースである。絶対的フィットネス値や勾配の情報ではなく、後継者が親を改善したかどうかの有無に依存する。
• 本手法は、Twoつの古典的な離散ブラックボックス問題であるOneMaxおよびLeadingOnesに対して評価され、複数の問題サイズ(n ≤ 3,000)で検証された。
• 性能は1,001回の独立実験における平均最適化時間で測定され、RLS、静的パrameterを用いた(1+1)EA、および理論的最適なユニタリ非偏見アルゴリズムと比較された。

実験結果

リサーチクエスチョン

• RQ1 突然変異率選択に単純な成功に基づく乗法的更新ルールを用いることで、離散ブラックボックス問題において理論的最適に近い性能を達成できるか？
• RQ2 提案された適応的(1+1)EA αは、OneMaxおよびLeadingOnesにおいて最良の静的ユニタリ非偏見ブラックボックスアルゴリズムを上回る性能を示すか？
• RQ3 突然変異率の更新ルールパラメータ(A, b)の異なる設定において、問題次元nの増加に伴い、本手法の性能はどのようにスケーリングするか？
• RQ4 適応的パラメータ選択が最適突然変異率を最適化プロセス全体でどれほど的確に追跡するか？
• RQ5 シミュレーテッドアニーリングの冷却スケジュールのようなフィードバックなしで時間に依存するルールは、単純な比較ベースのフィードバック機構に劣るか？

主な発見

• (1+1)EA αにおいてA=1.2、b=0.85を用いた場合、OneMaxでは最適なユニタリ非偏見ブラックボックスアルゴリズムと比較して平均最適化時間が1%以内に収まり、n=100からn=3,000の範囲でc値（正規化時間）が0.974～0.996の間で安定している。
• LeadingOnesでは、適応的アルゴリズムが最良の静的ユニタリ非偏見ブラックボックスアルゴリズムを約18%の速度向上で上回り、顕著な性能向上を示している。
• OneMaxでは、適応的アルゴリズムがRLSを常に上回るか同等の性能を示し、n=100からn=3,000の範囲で平均最適化時間がRLSの最適性能と1%以内に収まっている。
• 最適化プロセス中、突然変異率は動的に調整される：p₀=1/nから出発し、フィットネスがn/2付近に達すると1/2に近づき、フィットネスが1,332を超えると1に減少する。これは理論的最適と一致する。
• Aとbの異なる設定に対しても本手法はロバストであり、全テスト設定でRLSに非常に近い性能を達成し、静的(1+1)EA（p=1/n）を上回っている。
• 実験的結果から、成功に基づく乗法的ルールは大規模な問題次元（n=3,000）に対しても良好にスケーリングし、複雑なチューニングを要せず高い性能を維持できることが示唆された。