[論文レビュー] Enhancing SAT solvers with glue variable predictions

Jesse Michael Han|arXiv (Cornell University)|Jul 6, 2020

Constraint Satisfaction and Optimization参考文献 35被引用数 6

ひとこと要約

本稿では、監視学習および強化学習を用いて、効率的な衝突節生成に不可欠なグルー変数を予測する軽量ニューラルネットワークを訓練することで、SATソルバーの性能を向上させる手法を提案する。これらの予測に基づき、定期的に分岐ヒューリスティクスを再焦点化することで、GPU加速を必要とせずにSATCOMP 2018、SATRACE 2019、およびSHA-1のプリイメージ攻撃ベンチマークにおいて、最先端のCaDiCaLソルバーの性能を向上させた。

ABSTRACT

Modern SAT solvers routinely operate at scales that make it impractical to query a neural network for every branching decision. NeuroCore, proposed by Selsam and Bjorner, offered a proof-of-concept that neural networks can still accelerate SAT solvers by only periodically refocusing a score-based branching heuristic. However, that work suffered from several limitations: their modified solvers require GPU acceleration, further ablations showed that they were no better than a random baseline on the SATCOMP 2018 benchmark, and their training target of unsat cores required an expensive data pipeline which only labels relatively easy unsatisfiable problems. We address all these limitations, using a simpler network architecture allowing CPU inference for even large industrial problems with millions of clauses, and training instead to predict {\em glue variables}---a target for which it is easier to generate labelled data, and which can also be formulated as a reinforcement learning task. We demonstrate the effectiveness of our approach by modifying the state-of-the-art SAT solver CaDiCaL, improving its performance on SATCOMP 2018 and SATRACE 2019 with supervised learning and its performance on a dataset of SHA-1 preimage attacks with reinforcement learning.

研究の動機と目的

• GPU推論を要する従来の深層学習手法の限界を克服し、実世界のベンチマークにおける一般化性能に課題を抱えるSATソルブの課題に対処する。
• グローバルに情報化されたヒューリスティクスの高コストを、グルー変数予測に特化したより単純でCPU互換性のあるニューラルネットワークアーキテクチャを用いることで克服する。
• 予測されたグルー変数に基づき、分岐ヒューリスティクスの定期的な再焦点化を実施することで、最先端のCaDiCaL SATソルバーの性能を向上させる。
• 監視学習および強化学習を用いて、SATCOMP 2018、SATRACE 2019、およびSHA-1プリイメージ攻撃のデータセットを含む多様なベンチマークで有効性を実証する。
• グルー変数というよりアクセスしやすく、より豊富なトレーニング信号に注目することで、高パフォーマンスなSATソルバーへのニューラルネットワーク統合にスケーラブルかつハードウェアに依存しない方法を提供する。

提案手法

• 衝突節の効率を著しく向上させるグルー節に関与する可能性の高い変数を予測する、小型で効率的な順方向ニューラルネットワークを訓練する。
• 既存のSATソルブ実行から得られるラベル付きデータを用いて監視学習を実施し、衝突解決中の節解析によってグルー変数を同定する。
• グルー変数予測を強化学習のタスクとして定式化し、特にSHA-1プリイメージ攻撃のような特殊な問題クラスにおいて、問題固有のヒューリスティクスを学習する。
• 予測結果をCaDiCaL SATソルバーに統合し、予測されたグルー変数スコアに基づき、EV-SIDS分岐ヒューリスティクスを定期的に再焦点化する。各決定における推論を避ける。
• CPU専用の推論を保証するため、軽量なアーキテクチャを採用することで、数百万の節を含む大規模な産業問題へのスケーラビリティを実現する。
• 全推論コストを軽減するため、各分岐ステップでではなく、戦略的な意思決定ポイントでのみニューラルネットワークを照会する。

実験結果

リサーチクエスチョン

• RQ1 GPU推論を必要とせず、最先端のSATソルバーの性能を向上させる、グルー変数を予測する軽量ニューラルネットワークは可能か？
• RQ2 グルー変数予測は、未満コア予測に依存する従来のアプローチに比べ、よりスケーラブルでデータ効率の良い代替手段となり得るか？
• RQ3 強化学習は、特に特殊なベンチマークにおいて、グルー変数予測のための問題固有のヒューリスティクスを効果的に学習できるか？
• RQ4 グルー変数予測に基づく定期的な再焦点化は、多様なSATベンチマークにおいて、ランダムまたはベースラインヒューリスティクスと比較してどのように性能を発揮するか？
• RQ5 グルー変数予測は、実世界の産業的および暗号的問題インスタンスにおいて、意思決定効率と解法時間の向上にどの程度寄与できるか？

主な発見

• 提案手法であるneuro-cadicalは、SATCOMP 2018でPAR-2スコア3194.81を達成し、vanilla CaDiCaLソルバー（3249.99）およびランダムベースライン（3293.62）を上回った。
• SATRACE 2019では、neuro-cadicalはPAR-2スコア4344.87を達成し、vanilla CaDiCaL（4405.69）およびランダム（4419.33）を顕著に上回った。
• SHA-1プリイメージ攻撃ベンチマークでは、neuro-cadicalはPAR-2スコア279.29を達成し、vanilla CaDiCaL（282.78）より1.23%優れており、ランダム（304.19）より8.19%優れていた。
• SATCOMP 2018では、neuro-cadicalは66.5%の問題でより高いGLR（ソリューションの良さ比）を達成し、54.9%の問題で平均グルーレベルが低かった。
• SATRACE 2019では、neuro-cadicalは54.2%の問題でより高いGLRを達成し、48.8%の問題で平均グルーレベルが低く、両ベースラインを上回った。
• neuro-cadicalの強化学習バージョンは、SHA-1プリイメージ攻撃データセットで優れた性能を示し、ドメイン特化最適化に向けたポリシーに基づくグルー予測の実現可能性を示した。