[論文レビュー] Graph Neural Reasoning for 2-Quantified Boolean Formula Solvers

Zhanfu Yang, Fei Wang+3 more|arXiv (Cornell University)|Apr 27, 2019

Graph Theory and Algorithms参考文献 14被引用数 9

ひとこと要約

本稿では、2変数束縛ブール論理式（2QBF）問題におけるグラフニューラルネットワーク（GNN）ベースのソルバーやヒューリスティクスを調査し、推論を向上させるために候補と反例の順序付けを行うGNN強化型CEGARベースのソルバーを提案する。GNNが不充足性を捉える能力に制限があるものの、著者らはハイブリッドGNNヒューリスティクスを用いて2QBFインスタンスにおける性能を向上させ、GNN3は充足および不充足の両方の論理式でベースラインを上回った。

ABSTRACT

In this paper, we investigate the feasibility of learning GNN (Graph Neural Network) based solvers and GNN-based heuristics for specified QBF (Quantified Boolean Formula) problems. We design and evaluate several GNN architectures for 2QBF formulae, and conjecture that GNN has limitations in learning 2QBF solvers. Then we show how to learn a heuristic CEGAR 2QBF solver. We further explore generalizing GNN-based heuristics to larger unseen instances, and uncover some interesting challenges. In summary, this paper provides a comprehensive surveying view of applying GNN-embeddings to specified QBF solvers, and aims to offer guidance in applying ML to more complicated symbolic reasoning problems.

研究の動機と目的

• GNNを用いて2QBFソルバーやヒューリスティクスを学習する可能性を検討すること。
• 2QBFにおける不充足性の推論に標準的なGNNが失敗するという課題に取り組むこと、これはQBFソルビングにおける主要な制限要因である。
• 1つの論理式に対して複数回のGNN埋め込みを回避することで、推論のオーバーヘッドを低減するGNNベースのヒューリスティクスの設計と評価を行うこと。
• GNNベースのヒューリスティクスが、より大きな未観測の2QBFインスタンスへ一般化できるかを調査すること。
• 2QBFソルビングのような複雑な記号的推論タスクへの機械学習の適用に役立つ指針を提供すること。

提案手法

• ∀-および∃-リテラルのための埋め込みを別々のニューラルモジュールで分離することで、2QBFに適応したGNNアーキテクチャを設計する。
• 候補（見込みの証拠）と反例の順序付けを行うGNNベースのヒューリスティクスを備えたCEGARベースのソルバーを設計する。
• 節の充足状況と不充足性コア解析に基づき、GNNを用いて候補および反例の順序付けスコアを計算する。
• ハードネススコア、不充足性コア検出、節の充足数といった複数の順序付け信号を統合する。
• SATソルビングとコア抽出から得られるスコアを用いて、ラベル付き2QBFインスタンス上で教師あり学習によりGNNを訓練する。
• 候補と反例の順序付けを1つのGNNアーキテクチャ（GNN3）で統合し、全体的なソルバー性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 標準的なGNNアーキテクチャは、不充足性の推論に inherently 困難な2QBF問題を効果的に学習できるか？
• RQ2 推論コストを最小限に抑えるために、GNNベースのヒューリスティクスはどのように設計できるか？
• RQ3 GNNベースのヒューリスティクスは、より大きな未観測の2QBFインスタンスへどの程度一般化できるか？
• RQ4 候補と反例の順序付けを統合することで、個別の順序付け戦略に比べてソルバー性能が向上するか？
• RQ5 GNNは、2QBFにおける不充足性コアのようなグローバルな推論パターンを捉える際に、どのような制限を受けるか？

主な発見

• 標準的なGNNベースのSATソルバーは、GNNが不充足性の推論に失敗するため、2QBFに一般化できない。
• 節の充足状況に基づく反例の順序付けは、充足の2QBFインスタンスでは性能を向上させるが、不充足のインスタンスでは向上しない。
• GNN3は、候補に対してハードネスベースの順序付け、反例に対して節の充足に基づく順序付けを統合しており、すべてのテストセットで最良の性能を達成した。
• テストセットでは、GNN3は不充足インスタンスの解決時間を12.008秒、充足インスタンスでは24.295秒にまで短縮し、MaxSATおよび他のGNNバージョンを上回った。
• 結果から、不充足性コアのようなグローバルな性質の推論は、GNNにとって本質的に困難であることが示唆された。
• 複数の順序付け信号を用いた教師あり学習により、個々のインスタンスごとのGNN推論よりも一般化性能が向上し、推論オーバーヘッドも低減された。