[论文解读] Evidence for Long-Tails in SLS Algorithms

Florian Wörz, Jan-Hendrik Lorenz|arXiv (Cornell University)|Jul 1, 2021

Constraint Satisfaction and Optimization被引用 1

一句话总结

本文提供了实证和理论证据，表明当使用 Alfa 方法对逻辑等价的 SAT 实例进行修改后，随机局部搜索（SLS）求解器表现出长尾运行时间分布。基于 80 年 CPU 时间的统计分析，作者表明运行时间的难度服从对数正态分布，并从理论上证明重启机制可显著提升所有长尾算法的性能，包括使用该技术的 SLS 求解器。

ABSTRACT

Stochastic local search (SLS) is a successful paradigm for solving the satisfiability problem of propositional logic. A recent development in this area involves solving not the original instance, but a modified, yet logically equivalent one. Empirically, this technique was found to be promising as it improves the performance of state-of-the-art SLS solvers. Currently, there is only a shallow understanding of how this modification technique affects the runtimes of SLS solvers. Thus, we model this modification process and conduct an empirical analysis of the hardness of logically equivalent formulas. Our results are twofold. First, if the modification process is treated as a random process, a lognormal distribution perfectly characterizes the hardness; implying that the hardness is long-tailed. This means that the modification technique can be further improved by implementing an additional restart mechanism. Thus, as a second contribution, we theoretically prove that all algorithms exhibiting this long-tail property can be further improved by restarts. Consequently, all SAT solvers employing this modification technique can be enhanced.

研究动机与目标

• 理解 SLS 求解器在通过添加子句修改逻辑等价 SAT 公式后，其运行时间行为的表现。
• 研究此类修改后实例的难度是否服从长尾或重尾分布。
• 确定重启机制是否可提升这些求解器的性能。
• 从理论上证明重启机制对任何具有长尾运行时间分布的算法均有益。

提出的方法

• 实证分析 Alfa 方法的运行时间分布，该方法在使用 SLS 求解器求解前，向基础 SAT 公式添加逻辑等价子句。
• 通过大规模实验（80 年 CPU 时间）和统计工具（包括卡方拟合优度检验）评估分布拟合效果。
• 将子句修改过程建模为随机过程，以评估其对求解器难度的影响。
• 应用风险率函数分析，并推导重启在长尾分布下有益的条件。
• 从理论上证明，在较弱正则性条件下，重启对所有长尾分布均有效。
• 利用分位函数和期望值分析，推导通过重启实现性能提升的条件。

实验结果

研究问题

• RQ1 Alfa 方法通过添加逻辑等价子句修改 SAT 实例，是否会导致 SLS 求解器出现长尾运行时间分布？
• RQ2 根据实证证据，Alfa 的运行时间分布是否最适宜用对数正态分布描述？
• RQ3 重启机制是否能显著提升使用 Alfa 方法的 SLS 求解器的性能？
• RQ4 是否存在对重启机制在长尾算法中提升性能的通用理论依据？
• RQ5 重启带来的性能提升是否也适用于其他 SLS 求解器（如 probSAT 和 YalSAT）？

主要发现

• 实证结果表明，基于 Schöning 随机游走算法（SRWA）的 SLS 求解器在使用 Alfa 方法时，其运行时间分布表现出长尾特性，且有强有力证据支持对数正态分布拟合。
• 通过卡方统计量在整个定义域上验证了对数正态分布的拟合优度，支持猜想 6。
• 即使对数正态拟合不完美，分布的长尾特性依然稳健成立，支持猜想 8。
• 理论分析证明，只要风险率趋于零且二阶矩条件成立，重启对任何长尾分布均有益。
• 对于 Alfa 类算法，重启带来的期望运行时间改善是确定的，尤其在平均运行时间无穷大或风险率衰减至零时。
• 初步结果显示，因启发式原因被排除的求解器可能表现出多峰行为，甚至比对数正态分布具有更重的尾部，提示存在进一步研究的潜力。