[論文レビュー] PDP: A General Neural Framework for Learning Constraint Satisfaction Solvers

Saeed Amizadeh, Sergiy Matusevych+1 more|arXiv (Cornell University)|Mar 5, 2019

Constraint Satisfaction and Optimization参考文献 50被引用数 7

ひとこと要約

本稿では、確率的推論と微分可能なメッセージパッシングを統合することで、制約充足問題（CSP）のソルバを学習する一般化されたニューラルフレームワークPDPを提案する。エネルギー最小化を介したエンドツーエンドの教師なし学習を可能とし、従来のヒューリスティクスにとどまらない非グリーディな探索戦略を学習可能であり、特にドメイン固有の分布で学習した場合、k-SAT問題において最先端のソルバと同等の性能を達成する。

ABSTRACT

There have been recent efforts for incorporating Graph Neural Network models for learning full-stack solvers for constraint satisfaction problems (CSP) and particularly Boolean satisfiability (SAT). Despite the unique representational power of these neural embedding models, it is not clear how the search strategy in the learned models actually works. On the other hand, by fixing the search strategy (e.g. greedy search), we would effectively deprive the neural models of learning better strategies than those given. In this paper, we propose a generic neural framework for learning CSP solvers that can be described in terms of probabilistic inference and yet learn search strategies beyond greedy search. Our framework is based on the idea of propagation, decimation and prediction (and hence the name PDP) in graphical models, and can be trained directly toward solving CSP in a fully unsupervised manner via energy minimization, as shown in the paper. Our experimental results demonstrate the effectiveness of our framework for SAT solving compared to both neural and the state-of-the-art baselines.

研究の動機と目的

• 既存のニューラルソルバが解釈可能な探索戦略を欠き、グリーディな探索に限定されているという制限に対処すること。
• ドメイン固有の問題分布に適応可能な汎用的で教師なしのCSPソルバの学習フレームワークを開発すること。
• 確率的推論とディープラーニングを微分可能でエンドツーエンド学習可能なアーキテクチャに統合し、非グリーディな探索戦略をサポートすること。
• 教師あり学習や手作業による特徴量に依存せずに、効率的でドメイン固有の推論アルゴリズムを学習可能とすること。
• 神経記号的手法と古典的ソルバの間のギャップを埋めるために、古典的推論原理を学習可能なニューラルフレームワークに組み込むこと。

提案手法

• PDPフレームワークは、3つのコア操作、すなわち伝搬（Propagation）、縮退（Decimation）、予測（Prediction）の周囲に構築されており、これらはすべて微分可能コンポーネントとしてモデル化されている。
• 伝搬は、グラフィカルモデルにおける信念伝搬に類似したメッセージパッシング機構を用いて、制約グラフ全体にメッセージを広めている。
• 縮退は、学習された信頼度スコアに基づいて変数の割り当てを選択するが、トレーニング可能なコンponentsのおかげでグリーディ選択から逸脱する可能性を有する。
• 予測は、初期の変数割り当てやメッセージの事前分布を生成し、多様な問題インスタンスに対応可能としている。
• 全フレームワークは、エネルギー関数が制約の満たされ具合と変数割り当ての一貫性を符号化するための教師なしエネルギー最小化により訓練されている。
• 固定された古典的伝搬器（例：SP）とトレーニング可能な縮退器を組み合わせたハイブリッド構成をサポートしており、柔軟なモデル設計を可能としている。

実験結果

リサーチクエスチョン

• RQ1 確率的推論による解釈可能性を保ちつつ、CSPに対して非グリーディで効率的な探索戦略を学習可能なニューラルフレームワークは実現可能か？
• RQ2 教師なしでエネルギーに基づく訓練目的は、CSPの異なる分布にわたる一般化を可能にするか？
• RQ3 PDPフレームワークは、均一でないドメイン固有の問題構造（例：モジュラーモデル4-SAT）に適応可能か？
• RQ4 微分可能でエンドツーエンド学習可能なソルバは、Glucoseのような最先端のCDCLソルバと同等か、それ以上の性能を達成できるか？
• RQ5 PDPフレームワークは、ニューラル環境におけるリスタートやバックトラッキングといった古典的手法をどのように統合できるか？

主な発見

• PDPフレームワークは、均一なランダムk-SAT問題において、古典的およびニューラルベースラインを上回り、優れた一般化能力と学習能力を示している。
• モジュラーモデル4-SATで学習したPDPソルバは、均一な4-SATで学習したモデルを著しく上回っており、ドメイン固有の構造への適応が有効であることを示している。
• 教師なしで学習されたにもかかわらず、PDPモデルはモジュラーモデルk-SATインスタンスにおいて、非常に最適化されたGlucoseソルバに近い性能を達成している。
• フレームワークは非グリーディな探索戦略を効果的に学習しており、構造的問題セットにおいてグリーディベースラインを上回る性能が裏付けられている。
• PDPフレームワークは、古典的手法（例：SP、BP）を微分可能で並列化可能なコンポーネントとして形式化できており、GPU加速に適している。
• 初期メッセージ値の違いに応じて複数の解探索行動を示し、バッチ複製による自然なリスタート戦略統合が可能である。