[论文解读] Sparse Hashing for Scalable Approximate Model Counting: Theory and Practice

Kuldeep S. Meel, S. Akshay|arXiv (Cornell University)|Apr 30, 2020

Bayesian Modeling and Causal Inference参考文献 31被引用 5

一句话总结

本文通过一种新型的集中式哈希函数类引入稀疏哈希，以加速基于SAT的近似模型计数。通过以低概率选择变量（$p = \mathcal{O}(\log_2 m / m)$）来减小XOR约束的规模，该方法在保持与2-通用哈希相当的强理论保证的同时，实现了显著的加速——最高达10倍，该结果在1893个基准测试上得到验证，$\varepsilon_{\text{obs}}$的平均值为0.05。

ABSTRACT

Given a CNF formula F on n variables, the problem of model counting or #SAT is to compute the number of satisfying assignments of F . Model counting is a fundamental but hard problem in computer science with varied applications. Recent years have witnessed a surge of effort towards developing efficient algorithmic techniques that combine the classical 2-universal hashing with the remarkable progress in SAT solving over the past decade. These techniques augment the CNF formula F with random XOR constraints and invoke an NP oracle repeatedly on the resultant CNF-XOR formulas. In practice, calls to the NP oracle calls are replaced a SAT solver whose runtime performance is adversely affected by size of XOR constraints. The standard construction of 2-universal hash functions chooses every variable with probability p = 1/2 leading to XOR constraints of size n/2 in expectation. Consequently, the challenge is to design sparse hash functions where variables can be chosen with smaller probability and lead to smaller sized XOR constraints. In this paper, we address this challenge from theoretical and practical perspectives. First, we formalize a relaxation of universal hashing, called concentrated hashing and establish a novel and beautiful connection between concentration measures of these hash functions and isoperimetric inequalities on boolean hypercubes. This allows us to obtain (log m) tight bounds on variance and dispersion index and show that p = O( log(m)/m ) suffices for design of sparse hash functions from {0, 1}^n to {0, 1}^m. We then use sparse hash functions belonging to this concentrated hash family to develop new approximate counting algorithms. A comprehensive experimental evaluation of our algorithm on 1893 benchmarks demonstrates that usage of sparse hash functions can lead to significant speedups.

研究动机与目标

• 解决CNF-XOR公式中因大尺寸XOR约束导致的近似模型计数性能瓶颈。
• 设计具有强集中特性的稀疏哈希函数，以实现在CNF-XOR公式上高效求解SAT。
• 建立哈希函数集中性与布尔超立方体上等周不等式之间理论基础的联系。
• 实现并实证评估一种新型近似模型计数器ApproxMC5，采用稀疏哈希函数。
• 证明稀疏哈希可在不牺牲近似质量的前提下实现显著的实际加速。

提出的方法

• 引入$(\rho, \mathsf{qs}, k)$-集中哈希函数作为2-通用哈希的松弛形式，确保有界分散指数$\rho$。
• 形式化哈希函数集中性度量与布尔超立方体上等周不等式之间的联系，推导出紧致的方差界。
• 构建稀疏哈希函数$\mathcal{H}^k_{\text{Rennes}}$，其中每个变量以概率$p_i = \mathcal{O}(\log_2 i / i)$被选中。
• 实现一种变体$\mathcal{H}^{\text{lsa}}_{\text{Rennes}}$，其参数经解析优化，适用于ApproxMC5的实际应用。
• 在ApproxMC5中，用稀疏集中哈希替代ApproxMC4中的密集2-通用哈希，以减小XOR约束规模并提升SAT求解器性能。
• 采用基于阈值的采样策略，使XOR数量与$\log_2 |\text{sol}(F)|$成比例，平衡稀疏性与准确性。

实验结果

研究问题

• RQ1 低变量选择概率的稀疏哈希函数是否能维持足够的集中性以实现准确的近似模型计数？
• RQ2 哈希函数集中性与布尔超立方体等周性质之间的理论关系为何？
• RQ3 在近似模型计数流水线中，使用稀疏XOR约束如何影响SAT求解器的运行时间？
• RQ4 与密集2-通用哈希相比，稀疏哈希是否能同时实现理论保证与实际加速？
• RQ5 在近似过程中，XOR稀疏性与所需SAT查询次数之间的权衡关系如何？

主要发现

• 在1893个基准测试中，使用稀疏集中哈希的ApproxMC5相比ApproxMC4实现了中位数3.2倍、最高达10倍的加速。
• ApproxMC5成功计算出在ApproxMC4超时的23%基准测试中的估计值，证明了其更强的可扩展性。
• 所有基准测试中观测到的误差容忍度$\varepsilon_{\text{obs}}$平均为0.05，远低于理论保证值0.8。
• 性能提升与解的数量的对数呈强相关：解的数量越多，加速越明显，原因在于更高的稀疏性。
• 该方法维持了强理论保证，计数变量的分散指数被有界于常数$\rho$，确保方差控制。
• 理论分析确认，$p = \mathcal{O}(\log_2 m / m)$足以从$\{0,1\}^n$到$\{0,1\}^m$构造出有效的集中哈希函数。