[論文レビュー] The 1/5-th Rule with Rollbacks: On Self-Adjustment of the Population Size in the $(1+(\lambda,\lambda))$ GA

Anton Bassin, Maxim Buzdalov|arXiv (Cornell University)|Apr 15, 2019

Metaheuristic Optimization Algorithms Research参考文献 8被引用数 4

ひとこと要約

本論文は、(1 + (λ, λ)) GAにおける集団サイズλの自己調整のための1/5の法則の修正版を提案し、長期間にわたる失敗フェーズにおいてλの適応を遅らせるロールバックを導入する。修正されたルールは、元のルールが性能を発揮しない線形関数（重みがランダムな場合）およびランダムなMAX-SATインスタンスにおいて性能を向上させる一方で、OneMaxにおける線形実行時間の保証を理論的にも実験的にも維持する。

ABSTRACT

Self-adjustment of parameters can significantly improve the performance of evolutionary algorithms. A notable example is the $(1+(\lambda,\lambda))$ genetic algorithm, where the adaptation of the population size helps to achieve the linear runtime on the OneMax problem. However, on problems which interfere with the assumptions behind the self-adjustment procedure, its usage can lead to performance degradation compared to static parameter choices. In particular, the one fifth rule, which guides the adaptation in the example above, is able to raise the population size too fast on problems which are too far away from the perfect fitness-distance correlation. We propose a modification of the one fifth rule in order to have less negative impact on the performance in scenarios when the original rule reduces the performance. Our modification, while still having a good performance on OneMax, both theoretically and in practice, also shows better results on linear functions with random weights and on random satisfiable MAX-SAT instances.

研究の動機と目的

• フィットネス距離相関が低い問題において、元の1/5の法則がλを速く適応させることによる性能低下を是正すること。
• フィットネスと最適解からの距離が相関が低い状況において、標準的な自己調整メカニズムの限界を調査すること。
• 連続した失敗が続く間、λの増加を遅らせる修正された適応ルールを提案すること。
• 修正されたルールが、OneMaxにおける線形実行時間の保証を理論的にも実験的にも維持するかを評価すること。
• 最適なλ選択の理論的・実験的潜在的価値を、将来の自己調整戦略のベンチマークとして探求すること。

提案手法

• 長期間にわたる失敗フェーズにおいてλの適応速度を低下させるロールバック機構を1/5の法則に導入する。
• 適応ステップにおける乗法的係数Fを調整することで、標準的な1/5の法則を修正し、複数回の失敗後にλの増加を小さくスケーリングする。
• 修正された適応論理を採用：U−1回の連続失敗後、λはF^(1/(U−1))の要因で増加する。これにより、適応が著しく遅くなる。
• 修正されたルールを(1 + (λ, λ)) GAに実装し、OneMax、LinIntW、およびランダムMAX-SATを含むベンチマーク問題と比較する。
• n = 1000のインスタンスに対して実験を行い、複数の問題タイプにおけるフィットネス評価回数を評価する。
• 実験データから最適なλ値を最適解からのハミング距離の関数として導出し、仮想的な「最適に外挿された」(1 + (λ, λ)) GAを比較のためにシミュレートする。

実験結果

リサーチクエスチョン

• RQ1 元の1/5の法則は、重みがランダムな線形関数や、埋め込まれた解があるランダムMAX-SATのような、フィットネス距離相関が低い問題で性能劣化を引き起こすか？
• RQ2 ロールバック機構を備えた修正された1/5の法則は、失敗シーケンス中におけるλ適応の速度を低下させることができ、非OneMax問題における性能向上を実現できるか？
• RQ3 修正されたルールは、理論的にも実験的にもOneMaxにおける線形実行時間の保証を維持するか？
• RQ4 修正された(1 + (λ, λ)) GAは、元のバージョンおよび最適に設定されたバージョンと比較して、さまざまなベンチマーク問題でどのように性能を発揮するか？
• RQ5 現在の自己調整メカニズムと最適な自己調整戦略との間に依然として性能ギャップが存在するか。これは、さらなる改善の余地があることを示唆するか？

主な発見

• 提案されたロールバックベースの1/5の法則の修正により、重みがランダムな整数の線形関数（LinInt2、LinInt5）および対数的論理節密度のランダムMAX-SATインスタンスにおいて、元の(1 + (λ, λ)) GAを上回る性能向上が達成された。
• OneMaxでは、修正されたアルゴリズムが理論的にも実際的にも線形実行時間を維持しており、元のバージョンと比較して約10%の性能低下にとどまる。
• 実験データに基づきハミング距離から導出したλ値を使用する仮想的な「最適に外挿された」(1 + (λ, λ)) GAは、すべてのテスト問題において、すべての自己調整バージョン（包括して本研究の提案版も含む）を上回る性能を発揮した。
• LinInt1000（重みがランダム）では、修正されたアルゴリズムが10,994.36 ± 2330.01のフィットネス評価回数にまで低下させたのに対し、元の(1 + (λ, λ)) GAは15,420.16 ± 4281.11であった。これは顕著な改善を示している。
• 結果から、現在の自己調整戦略は最適でないことが示され、最良の自己調整バージョンですら、最適に設定された(1 + (λ, λ)) GAの性能に達していないことが明らかになった。
• 本研究は、現在の自己調整メカニズムと理論的な最適λ適応の潜在的性能との間に依然として大きなギャップが存在することを確認しており、今後のアルゴリズム的改善の余地があることを示唆している。