[論文レビュー] SATNet: Bridging deep learning and logical reasoning using a differentiable satisfiability solver

Po-Wei Wang, Priya L. Donti+2 more|arXiv (Cornell University)|May 29, 2019

graph theory and CDMA systems参考文献 29被引用数 43

ひとこと要約

SATNetは、ニューラルネットワークに埋め込むことができる微分可能な MAXSAT ソルバー層を導入し、端から端まで論理制約を学習・推論できるようにする。 parity、数独、視覚的数独タスクで実証。

ABSTRACT

Integrating logical reasoning within deep learning architectures has been a major goal of modern AI systems. In this paper, we propose a new direction toward this goal by introducing a differentiable (smoothed) maximum satisfiability (MAXSAT) solver that can be integrated into the loop of larger deep learning systems. Our (approximate) solver is based upon a fast coordinate descent approach to solving the semidefinite program (SDP) associated with the MAXSAT problem. We show how to analytically differentiate through the solution to this SDP and efficiently solve the associated backward pass. We demonstrate that by integrating this solver into end-to-end learning systems, we can learn the logical structure of challenging problems in a minimally supervised fashion. In particular, we show that we can learn the parity function using single-bit supervision (a traditionally hard task for deep networks) and learn how to play 9x9 Sudoku solely from examples. We also solve a "visual Sudok" problem that maps images of Sudoku puzzles to their associated logical solutions by combining our MAXSAT solver with a traditional convolutional architecture. Our approach thus shows promise in integrating logical structures within deep learning.

研究の動機と目的

• 論理的推論を深層学習と統合して難解な離散制約を扱う動機づけ。
• 低ランク SDP 緩和を基盤とした微分可能な MAXSAT ソルバーをニューラルネットワーク層として埋め込む。
• ハードコーディングされた規則なしにデータから論理構造をエンドツーエンドで学習できるようにする。
• 最小限の監視（例： parity の単一ビット監視）を含む、 parity および Sudoku（視覚的 Sudoku 変種を含む）の学習を実証。

提案手法

• MAXSAT を変数を単位ベクトルへ写像する SDP 緩和として定式化。
• 固定点収束が保証された高速座標降下法で SDP を解く。
• SDP 解を微分可能とし、ニューラルネットのバックプロパゲーションを可能にする（解析的/後向き伝播）。
• 入力を連続ベクトルに緩和し、確率的丸めによって出力を変換する低ランク・GPU 加速型の SATNet 層を実装。
• SATNet を大きなネットワーク内の微分可能な層として埋め込む（例：視覚的 Sudoku のための CNN + SATNet）。
• 効率的なフォワードおよびバックワードパス（アルゴリズム 1, 2, 3）と速度のための GPU 実装を提供。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークの内部に層として統合できる微分可能な MAXSAT の緩和は実現可能か。
• RQ2 エンドツーエンドの学習は、手作業で定義された規則を使わずに離散的論理構造を発見・活用できる程度にまで到達するか。
• RQ3 SATNet は最小限の監視（例： parity の単一ビット監視）や Sudoku のような複雑なパズルから論理制約をどれだけ学習できるか。
• RQ4 視覚的な、画像から論理ソルバーへのパイプライン（視覚的 Sudoku）をエンドツーエンドで学習できるか。

主な発見

モデル	訓練	評価
ConvNet (Original Sudoku)	72.6%	0.04%
ConvNetMask (Original Sudoku)	91.4%	15.1%
SATNet (Original Sudoku)	99.8%	98.3%
ConvNet (Permuted Sudoku)	0%	0%
ConvNetMask (Permuted Sudoku)	0.01%	0%
SATNet (Permuted Sudoku)	93.6%	63.2%

• SDP ベースの MAXSAT ソルバーをフォワードおよびバックワードの両方で微分可能な形で実現。
• 単一ビット監視で parity を学習し、9×9 Sudoku を高い精度で解決（元データ: トレーニング 99.8%、テスト 98.3%）。
• 置換された Sudoku 実験では、局所性の仮定なしに制約を学習できることを SATNet が示す（テスト: トレーニング 93.6%、テスト 63.2%）。
• 視覚的 Sudoku 実験は、数字認識の CNN と SATNet を結合してエンドツーエンド学習が可能であることを示す（competent エンドツーエンド性能）。
• GPU 加速型の低ランク SDP 層は、深層アーキテクチャへの統合を拡張性高く提供（CPU 比で速度向上は最大で 18–30 倍）。
• SATNet は標準的な Sudoku ベンチマークでハードコーディングせずに盤面ごとの高い精度（98.3%）を達成。