[論文レビュー] The 1/5-th Rule with Rollbacks: On Self-Adjustment of the Population Size in the $(1+(λ,λ))$ GA

Anton Bassin, Maxim Buzdalov|arXiv (Cornell University)|Apr 15, 2019

Metaheuristic Optimization Algorithms Research参考文献 3被引用数 4

ひとこと要約

本稿では、(1+(λ,λ)) GAにおける自己調整的母集団サイズλのための修正版1/5ルールを提案し、長期間にわたる失敗期間中のλ増加を遅らせるロールバック機構を導入する。この手法は、元のルールが性能を発揮しない線形関数（重みがランダムな場合）およびランダムMAX-SATインスタンスにおいて性能を向上させる一方で、OneMax問題では理論的にも実験的にも線形実行時間を維持する。

ABSTRACT

Self-adjustment of parameters can significantly improve the performance of evolutionary algorithms. A notable example is the $(1+(λ,λ))$ genetic algorithm, where the adaptation of the population size helps to achieve the linear runtime on the OneMax problem. However, on problems which interfere with the assumptions behind the self-adjustment procedure, its usage can lead to performance degradation compared to static parameter choices. In particular, the one fifth rule, which guides the adaptation in the example above, is able to raise the population size too fast on problems which are too far away from the perfect fitness-distance correlation. We propose a modification of the one fifth rule in order to have less negative impact on the performance in scenarios when the original rule reduces the performance. Our modification, while still having a good performance on OneMax, both theoretically and in practice, also shows better results on linear functions with random weights and on random satisfiable MAX-SAT instances.

研究の動機と目的

• 低フィットネス・ディスタンス相関を示す問題、特に重みがランダムな線形関数やランダムMAX-SATインスタンスにおける(1+(λ,λ)) GAの性能低下を解消すること。
• 標準的な1/5ルールが、母集団サイズの過剰な増加により、このような問題で失敗する理由を解明すること。
• 長期間にわたる失敗イテレーション中におけるλ増加レートを低減する修正された自己調整戦略を開発すること。
• より複雑で相関が低い問題において性能を向上させる一方で、OneMax問題における線形実行時間を維持するように修正アルゴリズムを設計すること。
• 最適なλ適応の理論的・実験的潜在的可能性を、実時間で達成可能でない場合でも探求すること。

提案手法

• 失敗イテレーションの連続がしきい値を超えた場合にλを要因で減少させるロールバック機構を導入し、進行不良時の適応速度を低下させる。
• 長期間の失敗ストリーク中におけるλ増加レートを制限するように1/5ルールを修正し、効果的に増加速度を元の速度の平方根程度に低下させる。
• OneMax、重みがランダム整数の線形関数（LinIntW）、および埋め込み解のあるランダムMAX-SATインスタンスを用いた実験的評価を実施する。
• 複数の問題インスタンスに対して、元の(1+(λ,λ)) GAおよび静的パラメータ設定（例：λ = n、λ = log n）と比較する。
• 実験データから、最適なλ値を最適解からのハミング距離の関数として導出し、これらの値を用いて性能をシミュレートする。
• 理論的に、修正アルゴリズムがOneMax問題においても線形期待実行時間を維持することを証明し、元の(1+(λ,λ)) GAの証明構造を踏襲する。

実験結果

リサーチクエスチョン

• RQ1 なぜ標準的な1/5ルールによるλ自己調整は、重みがランダムな線形関数やランダムMAX-SATインスタンスにおいて性能を低下させるのか？
• RQ2 ロールバック機構を備えた修正版1/5ルールは、長期間の失敗中におけるλ増加レートを低減でき、非OneMax問題における性能向上に寄与するか？
• RQ3 修正アルゴリズムは、OneMax問題における線形実行時間を維持しながら、他のベンチマーク問題においても優れた性能を発揮するか？
• RQ4 最適に選ばれたλ値（実験から導出）を用いた場合と、適応的戦略を用いた場合とで、(1+(λ,λ)) GAの性能はどのように異なるか？
• RQ5 最適なλ適応でさえも実現不可能な状況においても、(1+(λ,λ)) GAフレームワークにさらなる改善の余地があるか？

主な発見

• ロールバックを備えた修正版1/5ルールは、長期間の失敗ストリーク中におけるλ増加レートを著しく低下させ、効果的に適応速度を元の速度の平方根程度に抑制する。
• 重みがランダム整数の線形関数（LinIntW）において、修正アルゴリズムは元の(1+(λ,λ)) GAを定数倍の要因で上回り、理論的・実験的両面でその改善が確認される。
• 埋め込み解のあるランダムMAX-SATインスタンス（対数的節密度）において、修正アルゴリズムは元のバージョンに対して一貫した性能向上を示す。
• 修正アルゴリズムは、実験的にも理論的にもOneMax問題において線形期待実行時間を維持しており、コアな効率性が保たれていることが確認される。
• 最適に導出されたλ値（ハミング距離に基づく）を用いる場合、(1+(λ,λ)) GAは全テスト問題（特に難易度の高いLinInt1000ケースを含む）において(1+1) EAを上回る性能を発揮する。
• 実験結果から、自己調整戦略のさらなる改善により、現在のフレームワークですら(1+1) EAの実行時間未満の実行が可能になる可能性があることが示唆される。