[論文レビュー] Erratum: Simplified Drift Analysis for Proving Lower Bounds in Evolutionary Computation

Pietro S. Oliveto, Carsten Witt|arXiv (Cornell University)|Nov 30, 2012

Metaheuristic Optimization Algorithms Research参考文献 10被引用数 35

ひとこと要約

この論文は、進化的計算における下界を証明するために用いられる簡略化されたドリフト定理（SDT）における重大な誤りを是正する。本稿では、前向きおよび後向きのジャンプの指数的減衰を要求するより強い条件を導入した改訂版SDTを提示し、有限状態空間やマルコフ性の仮定を必要としない一般の確率過程に対しても有効であることを保証する。また、すべての先行研究における応用が、わずかな修正を加えることで新しい条件のもとでも有効であることを示している。

ABSTRACT

This erratum points out an error in the simplified drift theorem (SDT) [Algorithmica 59(3), 369-386, 2011]. It is also shown that a minor modification of one of its conditions is sufficient to establish a valid result. In many respects, the new theorem is more general than before. We no longer assume a Markov process nor a finite search space. Furthermore, the proof of the theorem is more compact than the previous ones. Finally, previous applications of the SDT are revisited. It turns out that all of these either meet the modified condition directly or by means of few additional arguments.

研究の動機と目的

• 元の簡略化されたドリフト定理（SDT）に存在する欠陥を特定・是正し、特定の状況下でその証明が無効であることを解消すること。
• 非マルコフ的かつ無限状態空間を含む一般の確率過程に対しても有効であることを保証する、より強い条件を満たす修正版SDTを確立すること。
• 元のSDTが用いられたすべての応用が、新しい条件を直接満たすか、わずかな追加の議論を加えることで適応可能であることを示すこと。
• 修正された定理に基づいて、進化的計算における既存の下界証明を再検証し、その一貫性を示すこと。

提案手法

• 大きなターゲット方向へのジャンプ確率が十分に抑えられていない場合に元のSDTが失敗することを示す反例を提示する。
• 前向きおよび後向きのジャンプ確率の指数的減衰を要求する改訂版SDTの条件を提案：$\operatorname{Prob}(|X_{t+1}-X_t| \geq j) \leq 2^{-j}$。
• ハジャックのドリフト定理を基盤とし、非負性やマルコフ性といった不要な仮定を排除した再定式化を実施する。
• 証明において、非減少関数に関する補題1を用いて期待値を評価し、より簡潔かつ一般化された導出を可能にする。
• 元のSDTが応用された代表的な事例（例：(1,λ)-EA、フィットネス比例選択EA）を再検討し、新しい条件をわずかな修正で満たすことを示す。
• 潜在的価値の大きな下向きジャンプを防ぐために選択圧を強化し、PEAをPEA’に変更することで、新しいSDTの条件を満たすようにする。

実験結果

リサーチクエスチョン

• RQ1 元の簡略化されたドリフト定理は、その提示条件のもとで有効であるか。特に、ジャンプ確率の減衰に関する点で。
• RQ2 SDTの2番目の条件を、正しさを保証するために最小限に強化するには、どのような条件が必要か。
• RQ3 元のSDTが用いられたすべての応用が、修正された定理のもとで、わずかな修正のみで救済可能か。
• RQ4 修正されたSDTは、非マルコフ過程および無限探索空間に対しても成立するか。
• RQ5 変更されたPEA’アルゴリズムは、元の解析を保持しつつ、新しいSDTの条件を満たすことができるか。

主な発見

• 元の簡略化されたドリフト定理は、ドリフトのモーメント生成関数の評価に誤りがあるため、提示通りでは無効である。
• 指数的減衰を要件とする修正版SDTが確立され、$\operatorname{Prob}(|X_{t+1}-X_t| \geq j) \leq 2^{-j}$ が満たされることを条件とする。
• 修正された定理は、非マルコフ的かつ無限状態空間を含む一般の確率過程に対しても、制限的仮定を必要とせずに適用可能である。
• 元のSDTが用いられたすべての既存の応用は、新しい条件を直接満たすか、わずかな追加の議論を加えることで有効性を保つことができる。
• (1,λ)-EAの解析により、高確率でランタイム下界 $2^{\Omega(n^{\varepsilon/2}/\log n)}$ が得られ、修正された定理と整合的である。
• フィットネス比例選択EA（PEA）は、潜在的価値の大きな下向きジャンプを防ぐために選択圧を強化し、PEA’に変更された。これにより、新しいSDTの条件を満たすことが保証された。