[论文解读] How much backtracking does it take to color random graphs? Rigorous results on heavy tails

Haixia Jia, Cristopher Moore|arXiv (Cornell University)|Dec 17, 2004

Constraint Satisfaction and Optimization被引用 8

一句话总结

本文严格证明了在稀疏随机图上，DPLL 算法求解图 3-染色问题时，其回溯分布呈现重尾特性，即使在‘易解’阶段（1 < c < 3.847）中，仍以正概率出现指数级运行时间。通过分支过程模型及对坏三角形引发的失败传播的分析，证明了回溯次数以常数概率呈现指数级增长，首次为自然图染色回溯算法中的重尾现象提供了严格证据。

ABSTRACT

Many backtracking algorithms exhibit heavy-tailed distributions, in which their running time is often much longer than their median. We analyze the behavior of two natural variants of the Davis-Putnam-Logemann-Loveland (DPLL) algorithm for Graph 3-Coloring on sparse random graphs G(n,p=c/n). Let P_c(b) be the probability that DPLL backtracks b times. First, we calculate analytically the probability P_c(0) that these algorithms find a 3-coloring with no backtracking at all, and show that it goes to zero faster than any analytic function as c o c^* = 3.847... Then we show that even in the ``easy'' phase 1 &lt; c &lt; c^* where P_c(0) &gt; 0, including just above the emergence of the giant component, the expected number of backtracks is exponentially large with positive probability. To our knowledge this is the first rigorous proof that the running time of a natural backtracking algorithm has a heavy tail for graph coloring. Moreover, our results show that these algorithms take exponential time, not just below the 3-colorability threshold, but just above the degree c=1 at which the giant component first appears. In addition, we give experimental evidence and heuristic arguments that this tail takes the form P_c(b) ~ b^{-1} up to an exponential cutoff.

研究动机与目标

• 严格建立 DPLL 算法在随机图上回溯时间分布存在重尾特性的证据。
• 分析回溯时间为何表现出幂律行为与指数尾部，尽管存在零回溯的正概率。
• 理解导致指数级回溯的结构成因，特别是坏三角形等局部图结构的作用。
• 提供零回溯概率与指数级运行可能性的解析界。
• 通过证明存在正概率的指数级运行时间，为回溯算法中的重启策略提供理论依据。

提出的方法

• 分析两种贪心 DPLL 变体（A 和 B），其使用单位传播，并通过固定顺序或均匀随机选择对 2-染色顶点进行分支。
• 将搜索树建模为具有时变分支率的分支过程，追踪因坏三角形导致失败的概率。
• 基于二叉树中良好叶节点的期望数量，使用概率论证来限制回溯次数。
• 应用加权算术平均与几何平均之间的不等式，推导出良好（成功）叶节点数量的下界。
• 引入临界参数 t₀，定义为方程 1 − t − e^{-ct} = 0 的最小正根，用于确定零回溯概率中积分的定义域。
• 通过涉及 c、λ 和 t₀ 的积分，推导出 P_c(0) 的精确表达式，表明其在 c → c* 时衰减快于任何解析函数。

实验结果

研究问题

• RQ1 DPLL 算法在稀疏随机图上求解图 3-染色问题时，是否表现出重尾回溯分布？
• RQ2 当 c < c* 时，算法以零回溯成功的确切概率 P_c(0) 是多少？
• RQ3 能否严格证明在‘易解’阶段，回溯次数的期望值以正概率呈现指数级增长？
• RQ4 图的哪些结构特征（如坏三角形）会导致整个子树失败，从而引发重尾行为？
• RQ5 回溯分布的尾部是否渐近满足 P_c(b) ~ b^{-1}？该模型能否支持或证明此结论？

主要发现

• 当 1 < c < c* = 3.847... 时，零回溯概率由 P_c(0) = exp(−∫₀^{t₀} dt cλ² / [2(1−λ)(2+λ)]) + o(1) 给出，其中 λ = (2/3)c(1−t−e^{-ct})，t₀ 为方程 1−t−e^{-ct}=0 的最小正根。
• 当 c 趋近于 c* 时，P_c(0) 衰减快于任何解析函数，表明在临界点存在本性奇点。
• 存在常数 β, q > 0，使得对两种算法变体均有 Pr[b > 2^{βn}] ≥ q，这意味着 E[b] = Θ(2^{βn})。
• 即使零回溯成功是可能的，由于共享坏三角形引发的失败相关性，指数级回溯的概率仍不为零。
• 以坏三角形为根的整个子树失败，导致回溯分布呈现重尾特性，且存在正概率出现指数级长运行时间。
• 启发式与实验结果表明，尾部行为近似满足 P_c(b) ~ b^{-1}，直至一个指数截断，尽管该结论在本文中未被严格证明。