[论文解读] Phase transition for Local Search on planted SAT

Andreĭ A. Bulatov, Evgeny Skvortsov|ArXiv.org|Nov 16, 2008

Data Management and Algorithms参考文献 19被引用 5

一句话总结

本文分析了局部搜索算法在随机植根3-CNF公式上的性能，证明了其存在一个尖锐的相变：当子句-变量比低于 $\kappa\ln n$ 且 $\kappa < \frac{7}{6}$ 时，局部搜索以高概率无法找到满足赋值；当 $\kappa > \frac{7}{6}$ 时，其以高概率成功。分析揭示了在 $\frac{7}{6}$ 处存在一个临界阈值，确立了该算法在植根实例上的典型情况行为。

ABSTRACT

The Local Search algorithm (or Hill Climbing, or Iterative Improvement) is one of the simplest heuristics to solve the Satisfiability and Max-Satisfiability problems. It is a part of many satisfiability and max-satisfiability solvers, where it is used to find a good starting point for a more sophisticated heuristics, and to improve a candidate solution. In this paper we give an analysis of Local Search on random planted 3-CNF formulas. We show that if there is k&lt;7/6 such that the clause-to-variable ratio is less than k ln(n) (n is the number of variables in a CNF) then Local Search whp does not find a satisfying assignment, and if there is k&gt;7/6 such that the clause-to-variable ratio is greater than k ln(n)$ then the local search whp finds a satisfying assignment. As a byproduct we also show that for any constant r there is g such that Local Search applied to a random (not necessarily planted) 3-CNF with clause-to-variable ratio r produces an assignment that satisfies at least gn clauses less than the maximal number of satisfiable clauses.

研究动机与目标

• 理解局部搜索在随机植根3-CNF公式上的典型性能表现。
• 确定局部搜索从失败到成功找到满足赋值的子句-变量比阈值。
• 分析局部搜索在植根实例上收敛至解的结构与概率条件。
• 在随机植根SAT的背景下，建立局部搜索成功概率的理论界限。

提出的方法

• 作者使用概率方法和耦合技术，分析了局部搜索在随机植根3-CNF公式上的表现。
• 他们定义了在公式 $\varphi$ 和简化子公式 $\varphi_2$ 上运行局部搜索之间的耦合，以比较变量行为。
• 他们引入了“正直变量”的概念——即翻转后能增加满足子句数的变量——并分析了其在收敛中的作用。
• 他们使用“顶盖支撑”和变量发现顺序的概念来建模失败条件，特别是当关键变量被发现过晚时。
• 他们利用概率引理界定了未发挥2-正直作用的变量数量，表明该数量以高概率为 $o(n)$。
• 他们证明了在子句中关键变量的发现顺序“不走运”会导致持续不满足的子句，并表明此类事件具有非消失的概率。

实验结果

研究问题

• RQ1 在植根3-CNF公式上，局部搜索从失败到成功的临界子句-变量比是多少？
• RQ2 局部搜索找到满足赋值的概率如何依赖于植根3-SAT实例中的子句-变量比？
• RQ3 在植根分布中尽管存在满足赋值，局部搜索在何种条件下仍会失败？
• RQ4 公式的哪些结构特性会影响局部搜索收敛至局部最优解？
• RQ5 变量发现顺序和“正直性”概念如何影响算法的成功概率？

主要发现

• 当子句-变量比低于 $\kappa\ln n$ 且任意 $\kappa < \frac{7}{6}$ 时，局部搜索以高概率无法找到满足赋值。
• 当子句-变量比超过 $\kappa\ln n$ 且任意 $\kappa > \frac{7}{6}$ 时，局部搜索以高概率找到满足赋值。
• 局部搜索性能的相变临界阈值恰好为 $\frac{7}{6}$，该值将失败与成功区域分隔开。
• 关键变量在子句中发现顺序“不走运”的概率下限为 $\frac{1}{\ln^6 n}$，这会导致持续不满足的子句。
• 运行期间未发挥2-正直作用的变量数量以高概率为 $o(n)$，从而限制了其对收敛的影响。
• 不同子句支撑中“不走运”发现顺序的事件相互独立，使得可利用集中不等式证明：当比值超过阈值时，至少存在一个此类失败事件以高概率发生。