[論文レビュー] General Drift Analysis with Tail Bounds

Per Kristian Lehre, Carsten Witt|arXiv (Cornell University)|Jul 9, 2013

Optimization and Search Problems参考文献 27被引用数 32

ひとこと要約

本稿では、変動するドリフトを示す確率過程に対して上側および下側の尾確率バウンドを備えた一般化されたドリフト定理を導入し、 hitting time の鋭い集中不等式を可能にする。この定理により、(1+1) EA が OneMax、LeadingOnes、線形関数の最適化時間の期待値のまわりに鋭く集中することを証明した。これは、位置依存のドリフトが存在する場合でも、逸脱要因 r に応じて尾確率が指数関数的に減少することを示している。

ABSTRACT

Drift analysis is one of the state-of-the-art techniques for the runtime analysis of randomized search heuristics (RSHs) such as evolutionary algorithms (EAs), simulated annealing etc. The vast majority of existing drift theorems yield bounds on the expected value of the hitting time for a target state, e.g., the set of optimal solutions, without making additional statements on the distribution of this time. We address this lack by providing a general drift theorem that includes bounds on the upper and lower tail of the hitting time distribution. The new tail bounds are applied to prove very precise sharp-concentration results on the running time of a simple EA on standard benchmark problems, including the class of general linear functions. Surprisingly, the probability of deviating by an $r$-factor in lower order terms of the expected time decreases exponentially with $r$ on all these problems. The usefulness of the theorem outside the theory of RSHs is demonstrated by deriving tail bounds on the number of cycles in random permutations. All these results handle a position-dependent (variable) drift that was not covered by previous drift theorems with tail bounds. Moreover, our theorem can be specialized into virtually all existing drift theorems with drift towards the target from the literature. Finally, user-friendly specializations of the general drift theorem are given.

研究の動機と目的

• ランダム化探索ヒューリスティクス（RSH）における既存のドリフト定理が尾確率バウンドを欠いているという問題に対処すること。特に、変動ドリフトに対して。
• 既存のドリフト定理（加法的、乗法的、フィットネスレベル法など）を一般化する統一的な枠組みを提供すること。
• RSH の hitting time 分布に対する鋭い集中不等式を導出すること。特に、ベンチマーク問題における (1+1) EA の最適化時間に対して。
• ドリフト解析の適用範囲を RSH にとどめず、ランダム順列におけるサイクル数の分析に応用することを示すこと。
• 実用的なランタイム解析への応用を想定した、一般定理の使いやすい特殊化を提供すること。

提案手法

• Lyapunov 関数とモーメント生成関数に基づく一般ドリフト定理を提案し、 hitting time の尾確率をバウンドする。
• 厳密に増加する関数 g を用いた変換により、変動ドリフト条件を指数的モーメントバウンドに適した形に変換する。
• g(X_t) の1ステップ変化のモーメント生成関数を制御することで、変換された過程に対してチェルノフ型バウンドを適用する。
• 指数不等式を用いて λ と η のパラメータを最適化することで、上側および下側の尾バウンドを導出する。
• 適切な g 関数の構築により、OneMax、LeadingOnes、線形関数などの特定問題に一般定理を特殊化する。
• 減少する確率過程としてモデル化された変動ドリフトを持つプロセスとして、サイクル数の確率的再帰的関係に定理を適用する。

実験結果

リサーチクエスチョン

• RQ1 変動ドリフトの下で hitting time の上側および下側の尾バウンドを提供する一般ドリフト定理を開発することは可能か？
• RQ2 このような定理は、加法的、乗法的、フィットネスレベル法を含む既存のドリフト定理を回復できるように、どのように特殊化できるか？
• RQ3 標準ベンチマーク問題における (1+1) EA の最適化時間は、期待値のまわりにどれほど鋭く集中するか？
• RQ4 新しいドリフト定理は RSH を超えて応用可能か。例えば、順列のサイクル数のような古典的確率的再帰的関係に応用可能か？
• RQ5 期待最適化時間の低次の項における逸脱の尾確率の減衰率はどの程度か？

主な発見

• (1+1) EA は OneMax、LeadingOnes、一般線形関数において鋭い集中を示す。低次の項における r 要因の逸脱確率は r に応じて指数関数的に減少する。
• OneMax における (1+1) EA に対して、下側尾確率 Pr(T₀ < (1−ε)ln n) は e⁻ᴼ⁽ⁿ⁾ でバウンドされ、上側尾確率 Pr(T₀ > (1+ε)ln n) は e⁻ᴼ⁽ⁿ⁾ でバウンドされる。これは期待値のまわりの強い集中を示している。
• n 要素のランダム順列におけるサイクル数は、期待値 ln n のまわりに鋭く集中しており、尾確率は逸脱量に応じて指数関数的に減少する。
• 一般ドリフト定理は、適切なパrameter化により、既知のすべての変動ドリフト、加法的、乗法的ドリフト定理、およびフィットネスレベル法を包含する。
• 非漸近的で使いやすいバウンドを提供し、ドリフトが位置依存で非定数であっても有効である。
• 導出されたバウンドはタイトであり、探索プロセスの高いランダム性にもかかわらず、(1+1) EA のランタイムが極めて予測可能であり、大きな逸脱はまれであることを明らかにしている。