[論文レビュー] Sparse Hashing for Scalable Approximate Model Counting: Theory and Practice

Kuldeep S. Meel, S. Akshay|arXiv (Cornell University)|Apr 30, 2020

Bayesian Modeling and Causal Inference参考文献 31被引用数 5

ひとこと要約

本稿では、集中性を持つハッシュ関数の新しいクラスを用いたスパースハッシュ化を導入し、SATベースのアルゴリズムにおける近似モデルカウントの高速化を図る。低確率の変数選択（$p = \mathcal{O}(\log_2 m / m)$）によりXOR制約のサイズを削減することで、理論的保証が2-ユニバーサルハッシュと同等の強固さを保ちつつ、最大10倍の高速化を達成した。1893のベンチマークで検証され、$\varepsilon_{\text{obs}}$の平均は0.05であった。

ABSTRACT

Given a CNF formula F on n variables, the problem of model counting or #SAT is to compute the number of satisfying assignments of F . Model counting is a fundamental but hard problem in computer science with varied applications. Recent years have witnessed a surge of effort towards developing efficient algorithmic techniques that combine the classical 2-universal hashing with the remarkable progress in SAT solving over the past decade. These techniques augment the CNF formula F with random XOR constraints and invoke an NP oracle repeatedly on the resultant CNF-XOR formulas. In practice, calls to the NP oracle calls are replaced a SAT solver whose runtime performance is adversely affected by size of XOR constraints. The standard construction of 2-universal hash functions chooses every variable with probability p = 1/2 leading to XOR constraints of size n/2 in expectation. Consequently, the challenge is to design sparse hash functions where variables can be chosen with smaller probability and lead to smaller sized XOR constraints. In this paper, we address this challenge from theoretical and practical perspectives. First, we formalize a relaxation of universal hashing, called concentrated hashing and establish a novel and beautiful connection between concentration measures of these hash functions and isoperimetric inequalities on boolean hypercubes. This allows us to obtain (log m) tight bounds on variance and dispersion index and show that p = O( log(m)/m ) suffices for design of sparse hash functions from {0, 1}^n to {0, 1}^m. We then use sparse hash functions belonging to this concentrated hash family to develop new approximate counting algorithms. A comprehensive experimental evaluation of our algorithm on 1893 benchmarks demonstrates that usage of sparse hash functions can lead to significant speedups.

研究の動機と目的

• CNF-XOR式における大きなXOR制約が原因で生じる近似モデルカウントの性能ボトルネックを解消すること。
• 強力な集中性を維持するスパースハッシュ関数を設計し、CNF-XOR式における効率的なSATソルバの実行を可能にすること。
• ハッシュ関数の集中性とブールハイパーキューブ上の等周不等式との理論的関係を確立すること。
• スパースハッシュ関数を用いた新しい近似モデルカウンター、ApproxMC5の実装と実験的評価を実施すること。
• スパースハッシュ化が近似品質を損なわせることなく、顕著な実用的高速化を達成できることを示すこと。

提案手法

• 2-ユニバーサルハッシュの緩和として、分散インデックス$\rho$が有界である$(\rho, \mathsf{qs}, k)$-集中ハッシュ関数を導入する。
• ハッシュ関数の集中度測定とブールハイパーキューブ上での等周不等式の関係を明確化し、タイトな分散バウンドを導出する。
• 各変数が確率$p_i = \mathcal{O}(\log_2 i / i)$で選択されるスパースハッシュ関数$\mathcal{H}^k_{\text{Rennes}}$を構築する。
• 実用的用途を想定し、解析的に最適化されたパラメータを有する変種$\mathcal{H}^{\text{lsa}}_{\text{Rennes}}$を実装する。
• ApproxMC4における密な2-ユニバーサルハッシュを、XOR制約サイズの削減とSATソルバの性能向上を目的として、ApproxMC5でスパース集中ハッシュに置き換える。
• 解の数$|\text{sol}(F)|$の対数に比例するスケーリングを持つしきい値ベースのサンプリング戦略を採用し、スパarsityと精度のバランスを取る。

実験結果

リサーチクエスチョン

• RQ1 低変数選択確率を持つスパースハッシュ関数が、正確な近似モデルカウントに十分な集中性を維持できるか。
• RQ2 ハッシュ関数の集中性とブールハイパーキューブの等周性の間にはどのような理論的関係があるか。
• RQ3 スパースXOR制約の使用が、近似モデルカウントパイプラインにおけるSATソルバの実行時間に与える影響は何か。
• RQ4 スパースハッシュ化は、密な2-ユニバーサルハッシュと比較して、理論的保証と実用的高速化の両方を達成できるか。
• RQ5 XORのスパarsityと近似プロセスにおける必要なSATクエリ数の間には、どのようなトレードオフがあるか。

主な発見

• ApproxMC5は、スパース集中ハッシュを用いることで、1893のベンチマークにおいてApproxMC4と比較して中央値で3.2倍、最大で10倍の高速化を達成した。
• ApproxMC4がタイムアウトした23%のベンチマークについても、ApproxMC5は正常に推定値を計算でき、スケーラビリティの向上を示した。
• 観測された誤差許容度$\varepsilon_{\text{obs}}$は全ベンチマークで平均0.05であり、理論的保証の0.8よりもはるかに低い水準であった。
• 性能向上は解の数の対数と強く相関しており、解の数が多いほどスパarsityが高まり、より大きな高速化が得られた。
• 分散インデックスが定数$\rho$で有界であるため、理論的保証が強く維持されており、分散の制御が可能である。
• 理論的分析により、$\{0,1\}^n$から$\{0,1\}^m$への有効な集中ハッシュ関数を構築するには$p = \mathcal{O}(\log_2 m / m)$で十分であることが確認された。