[论文解读] When Does Hillclimbing Fail on Monotone Functions: An entropy compression argument

Johannes Lengler, Anders Martinsson+1 more|arXiv (Cornell University)|Aug 3, 2018

Metaheuristic Optimization Algorithms Research被引用 4

一句话总结

该论文通过证明当突变率 $ c/n $ 满足 $ c \leq 1+\varepsilon $ 时，(1+1) EA 在 $ O(n\log^2 n) $ 期望步数内优化所有单调伪布尔函数，从而解决了进化计算领域长期存在的开放问题，其方法受到 Moser 对 Lovász 局部引理的算法证明所启发的熵压缩论证。结果表明在 $ c=1 $ 处不存在相变，将爬山法的效率扩展至此前推测的阈值之外。

ABSTRACT

Hillclimbing is an essential part of any optimization algorithm. An important benchmark for hillclimbing algorithms on pseudo-Boolean functions $f: \{0,1\}^n o \mathbb{R}$ are (strictly) montone functions, on which a surprising number of hillclimbers fail to be efficient. For example, the $(1+1)$-Evolutionary Algorithm is a standard hillclimber which flips each bit independently with probability $c/n$ in each round. Perhaps surprisingly, this algorithm shows a phase transition: it optimizes any monotone pseudo-boolean function in quasilinear time if $c<1$, but there are monotone functions for which the algorithm needs exponential time if $c>2.2$. But so far it was unclear whether the threshold is at $c=1$. In this paper we show how Moser's entropy compression argument can be adapted to this situation, that is, we show that a long runtime would allow us to encode the random steps of the algorithm with less bits than their entropy. Thus there exists a $c_0 > 1$ such that for all $0

研究动机与目标

• 解决 (1+1) EA 在单调函数上运行时间中是否存在 $ c=1 $ 处相变的开放问题。
• 将已知的准线性运行时间范围扩展至 $ c<1 $ 之外，证明当 $ c>1 $ 时效率依然保持。
• 将 Moser 的熵压缩论证应用于进化计算，展示其在分析随机搜索启发式算法中的强大能力。
• 证明即使在对抗性初始化下，访问的搜索点的期望数量也为 $ O(n) $。
• 建立对于所有 $ c \leq 1+\varepsilon $（其中 $ \varepsilon>0 $）和任意严格单调函数，运行时间保持高效的结论。

提出的方法

• 将 Moser 的熵压缩论证适配至单调函数上的随机爬山法设置。
• 使用信息论矛盾：若运行时间过长，则可将随机轨迹压缩至其熵以下，这是不可能的。
• 基于零比特数量定义阶段，从 $ 2^k $ 到 $ 2^{k-1} $，以分析每阶段的进展。
• 应用条件期望界，表明每阶段的期望更新次数为 $ O(2^k \log n) $。
• 对零比特数量使用马尔可夫链分析，以限制零比特数量减少的期望时间。
• 采用耦合论证表明，对存活（无位翻转变为零）的条件化不会增加期望的位翻转次数。

实验结果

研究问题

• RQ1 当优化单调函数时，(1+1) EA 在 $ c=1 $ 处是否表现出运行时间的相变？
• RQ2 熵压缩技术能否应用于证明随机搜索启发式算法在单调函数上的高效收敛？
• RQ3 当突变率 $ c>1 $ 时，运行时间是否仍为准线性，还是会变为指数级？
• RQ4 对于所有单调函数，(1+1) EA 仍能实现 $ O(n\log^2 n) $ 期望运行时间的最大 $ c>1 $ 是多少？
• RQ5 当初始搜索点被对抗性选择时，该算法是否仍保持高效？

主要发现

• 存在 $ \varepsilon>0 $，使得对所有 $ 0<c\leq 1+\varepsilon $，(1+1) EA 在 $ O(n\log^2 n) $ 期望步数内优化任意单调函数。
• 即使初始点被对抗性选择，访问的搜索点的期望数量也为 $ O(n) $。
• 该运行时间界限对所有单调函数一致成立，包括已知对 $ c>2.2 $ 较难的所谓 HotTopic 函数。
• 熵压缩论证成功排除了长运行时间的可能性，表明此类轨迹可被压缩至其熵以下，导致矛盾。
• 结果表明在 $ c=1 $ 处不存在相变，与文献中早期的推测相矛盾。
• 分析表明，每阶段的期望更新步数为 $ O(2^k \log n) $，由于共有 $ O(\log n) $ 个阶段，总运行时间为 $ O(n\log^2 n) $。