[論文レビュー] When Does Hillclimbing Fail on Monotone Functions: An entropy compression argument

Johannes Lengler, Anders Martinsson+1 more|arXiv (Cornell University)|Aug 3, 2018

Metaheuristic Optimization Algorithms Research被引用数 4

ひとこと要約

この論文は、進化的計算における長年の未解決問題を解決し、$ c \leq 1+\varepsilon $ である場合の (1+1) EA が、すべての単調な擬似ブール関数を $ O(n\log^2 n) $ の期待ステップで最適化することを証明している。この証明は、モーザーのLovász局所補題のアルゴリズム的証明にインspiredされたエントロピー圧縮論法に基づいている。結果として、$ c=1 $ における段階的転移は存在せず、これまでの予想された閾値を超えて、勾配上昇の効率性が保たれている。

ABSTRACT

Hillclimbing is an essential part of any optimization algorithm. An important benchmark for hillclimbing algorithms on pseudo-Boolean functions $f: \{0,1\}^n o \mathbb{R}$ are (strictly) montone functions, on which a surprising number of hillclimbers fail to be efficient. For example, the $(1+1)$-Evolutionary Algorithm is a standard hillclimber which flips each bit independently with probability $c/n$ in each round. Perhaps surprisingly, this algorithm shows a phase transition: it optimizes any monotone pseudo-boolean function in quasilinear time if $c<1$, but there are monotone functions for which the algorithm needs exponential time if $c>2.2$. But so far it was unclear whether the threshold is at $c=1$. In this paper we show how Moser's entropy compression argument can be adapted to this situation, that is, we show that a long runtime would allow us to encode the random steps of the algorithm with less bits than their entropy. Thus there exists a $c_0 > 1$ such that for all $0

研究の動機と目的

• 単調関数における (1+1) EA の実行時間に $ c=1 $ で段階的転移が生じるかどうかという未解決問題を解明すること。
• $ c<1 $ の範囲を超えて、準線形実行時間の範囲を拡張し、$ c>1 $ の場合にも効率性が維持されることを示すこと。
• モーザーのエントロピー圧縮論法を進化的計算に応用し、確率的探索ヒューリスティクスの解析におけるその強力さを示すこと。
• 訪問された探索点の期待数が $ O(n) $ であることを証明すること、すなわち敵対的初期化に対しても同様に成り立つこと。
• 任意の厳密に単調関数に対して、$ \varepsilon>0 $ である $ c \leq 1+\varepsilon $ のすべての $ c $ に対して、実行時間が依然として効率的であることの確立

提案手法

• 確率的勾配上昇における単調関数の設定に、モーザーのエントロピー圧縮論法を適応すること。
• 情報理論的矛盾の利用：長時間の実行は、そのエントロピー以下にランダムな軌道を圧縮可能であることを示し、これは不可能である。
• ゼロビットの数に基づくフェーズの定義：$ 2^k $ から $ 2^{k-1} $ までを1フェーズとして、各フェーズの進行を分析する。
• 条件付き期待値の上限を適用し、各フェーズあたりの更新回数の期待値が $ O(2^k \log n) $ であることを示す。
• ゼロビット数のマルコフ連鎖解析を用いて、ゼロの数を減らすまでの期待時間を制限する。
• カップリング論法を用いて、生存（ゼロへのビットフラップなし）を条件付けしても、ビットフラップ回数の期待値が増加しないことを示す。

実験結果

リサーチクエスチョン

• RQ1 (1+1) EA は、単調関数を最適化する際、$ c=1 $ で実行時間に段階的転移を示すか？
• RQ2 エントロピー圧縮技法を用いて、単調関数における確率的探索ヒューリスティクスの収束の効率性を証明できるか？
• RQ3 変異率 $ c>1 $ の場合、実行時間は準線形のままであるか、それとも指数的になるか？
• RQ4 すべての単調関数に対して $ O(n\log^2 n) $ の期待実行時間を達成できる最大の $ c>1 $ は何か？
• RQ5 初期探索点が敵対的に選ばれた場合でも、アルゴリズムは依然として効率的か？

主な発見

• $ \varepsilon>0 $ が存在し、すべての $ 0<c\leq 1+\varepsilon $ に対して、(1+1) EA は任意の単調関数を $ O(n\log^2 n) $ の期待ステップで最適化する。
• 初期点が敵対的に選ばれた場合でも、訪問された探索点の期待数は $ O(n) $ である。
• 実行時間の上限は、すべての単調関数に対して一様に成り立ち、$ c>2.2 $ で難しいと知られている「HotTopic関数」を含む。
• エントロピー圧縮論法により、長時間の実行が不可能であることが示され、そのような軌道はエントロピー以下に圧縮可能であるが、これは矛盾である。
• この結果は、$ c=1 $ に段階的転移が存在しないことを示し、文脈文献における以前の推測を反証する。
• 解析により、各フェーズあたりの更新ステップの期待値が $ O(2^k \log n) $ であり、フェーズ数が $ O(\log n) $ であるため、総実行時間は $ O(n\log^2 n) $ であることが示された。