[論文レビュー] G2SAT: Learning to Generate SAT Formulas

Jiaxuan You, Haoze Wu+3 more|PubMed|Oct 29, 2019

Formal Methods in Verification参考文献 2被引用数 21

ひとこと要約

G2SATは、リテラル-クラウーズグラフを二部グラフとしてモデル化し、グラフ畳み込みネットワークを用いて段階的にノードを統合するシーケンスによって、現実的でリアルなSAT式を学習的に生成する深層生成モデルである。生成された式は構造的指標およびソルバ動作の両面で現実世界のSATインスタンスに非常に近いものとなり、ベンチマークにおけるSATソルバの性能を向上させる。

ABSTRACT

The Boolean Satisfiability (SAT) problem is the canonical NP-complete problem and is fundamental to computer science, with a wide array of applications in planning, verification, and theorem proving. Developing and evaluating practical SAT solvers relies on extensive empirical testing on a set of real-world benchmark formulas. However, the availability of such real-world SAT formulas is limited. While these benchmark formulas can be augmented with synthetically generated ones, existing approaches for doing so are heavily hand-crafted and fail to simultaneously capture a wide range of characteristics exhibited by real-world SAT instances. In this work, we present G2SAT, the first deep generative framework that learns to generate SAT formulas from a given set of input formulas. Our key insight is that SAT formulas can be transformed into latent bipartite graph representations which we model using a specialized deep generative neural network. We show that G2SAT can generate SAT formulas that closely resemble given real-world SAT instances, as measured by both graph metrics and SAT solver behavior. Further, we show that our synthetic SAT formulas could be used to improve SAT solver performance on real-world benchmarks, which opens up new opportunities for the continued development of SAT solvers and a deeper understanding of their performance.

研究の動機と目的

• SATソルバの評価および改善のための多様で現実的なSATベンチマーク式の不足を解消すること。
• 現実世界のインスタンスの完全な複雑性を捉えられていない、手作業で設計されたSAT式生成ツールに代わるデータ駆動型で学習可能な代替手法を開発すること。
• リテラル-クラウーズグラフの生成を、ノード統合操作のシーケンスとしてモデル化する二部グラフ生成タスクとして定式化すること。
• 現実世界のインスタンスが持つ重要な構造的およびソルバ行動的性質を保持する合成SAT式を可能にすること。
• 生成された式が、実際のベンチマークにおいてSATソルバの性能を向上させられることを実証すること。

提案手法

• SAT式を、変数と節をノードとする二部グラフであるリテラル-クラウーズグラフ（LCG）として表現する。
• 生成プロセスを、互いに非連結な木の集合から出発し、一方のパーティション上のノードペアを段階的に統合する操作のシーケンスとしてモデル化する。
• 自己回帰的に各ステップでどのノードペアを統合すべきかを予測するために、共有されたグラフ畳み込みネットワーク（GCN）を用いる。
• 実際のLCGから導出されたノード分割操作のシーケンスを用いてGCNを学習させ、有効な統合パスの分布を学習する。
• 木から出発し、学習済みの統合ポリシーに従って段階的に適用することで新しい式を生成する。
• 二部グラフ構造の維持と現実世界のグラフ統計からの学習を通じて、生成されたグラフが重要な構造的性質を保持することを保証する。

実験結果

リサーチクエスチョン

• RQ1 深層生成モデルは、グラフ構造およびソルバ動作の両面で現実世界のインスタンスに類似したSAT式を学習的に生成できるか？
• RQ2 手作業で設計されたルールに依存せずに、多様で非自明なSAT式を生成できるか？
• RQ3 学習された生成モデルは、モジュラリティ、次数分布、クラスタリング係数といった重要なグラフ指標をどの程度正確に保持するか？
• RQ4 G2SATが生成する合成式は、実世界のベンチマークにおけるSATソルバの性能を向上させられるか？
• RQ5 GCNの深さといったアーキテクチャの選択に応じて、モデルの性能はどのように変化するか？

主な発見

• G2SATは、現実世界のSATインスタンスと類似した構造的性質（モジュラリティ、次数分布、クラスタリング係数など）を持つSAT式を生成する。
• モデルが生成する式は、実行時間や衝突パターンなどのSATソルバ動作が、現実世界の式と統計的に区別できない。
• GCNの層数を増やすことで、訓練データのモジュラリティに近づくようになることが示され、より深いモデルがより複雑な構造を捉えられることを示している。
• G2SATが生成する合成式は、トレーニングやチューニングに使用することで、実世界のベンチマークにおけるSATソルバの性能を向上させる。
• G2SATは、コミュニティアタッチメント（CA）やパピュラリティ-類似性（PS）といった手作業で設計されたベースラインを上回り、特に非自明で充足可能なインスタンスの生成において優れている。
• 不充足コアからの節の除去による後処理により、PSが生成する式の難易度は著しく上昇するが、G2SATは依然としてより現実的で困難なインスタンスを生成している。