[論文レビュー] Deep Reasoning Networks: Thinking Fast and Slow

Di Chen, Yiwei Bai+4 more|arXiv (Cornell University)|Jun 3, 2019

Machine Learning in Materials Science参考文献 42被引用数 11

ひとこと要約

Deep Reasoning Networks (DRNets) は、エンドツーエンドで教師なしの枠組みにおいて、深層学習と論理的・制約付き推論を統合し、高速なパターン認識（システム1）と遅い構造的推論（システム2）を組み合わせる。DRNets は、重ねられた手書きスゥドクウの分離（100%の数字認識精度）や、従来未解決であった物質系を含む複雑な結晶構造位相マッピングタスクにおいて、最先端の手法を上回る性能を発揮する。

ABSTRACT

We introduce Deep Reasoning Networks (DRNets), an end-to-end framework that combines deep learning with reasoning for solving complex tasks, typically in an unsupervised or weakly-supervised setting. DRNets exploit problem structure and prior knowledge by tightly combining logic and constraint reasoning with stochastic-gradient-based neural network optimization. We illustrate the power of DRNets on de-mixing overlapping hand-written Sudokus (Multi-MNIST-Sudoku) and on a substantially more complex task in scientific discovery that concerns inferring crystal structures of materials from X-ray diffraction data under thermodynamic rules (Crystal-Structure-Phase-Mapping). At a high level, DRNets encode a structured latent space of the input data, which is constrained to adhere to prior knowledge by a reasoning module. The structured latent encoding is used by a generative decoder to generate the targeted output. Finally, an overall objective combines responses from the generative decoder (thinking fast) and the reasoning module (thinking slow), which is optimized using constraint-aware stochastic gradient descent. We show how to encode different tasks as DRNets and demonstrate DRNets' effectiveness with detailed experiments: DRNets significantly outperform the state of the art and experts' capabilities on Crystal-Structure-Phase-Mapping, recovering more precise and physically meaningful crystal structures. On Multi-MNIST-Sudoku, DRNets perfectly recovered the mixed Sudokus' digits, with 100% digit accuracy, outperforming the supervised state-of-the-art MNIST de-mixing models. Finally, as a proof of concept, we also show how DRNets can solve standard combinatorial problems -- 9-by-9 Sudoku puzzles and Boolean satisfiability problems (SAT), outperforming other specialized deep learning models. DRNets are general and can be adapted and expanded to tackle other tasks.

研究の動機と目的

• 純粋な深層学習が推論を要するタスクにおいて抱える限界を克服するため、パターン認識（システム1）と論理的推論（システム2）を統合した統一フレームワークを構築すること。
• 論理的および物理的制約を強制する推論モジュールを統合したニューラルネットワークのエンドツーエンド学習を可能にし、特に低スコアまたはスコアなしの設定において有効にすること。
• 専門知識や熱力学的法則が不可欠な、X線回折データから結晶構造を推定するといった、複雑な科学的発見課題を解決すること。
• 視覚タスクを超えた一般化を実現するため、教師なしで標準的な組合せ問題（9x9スゥドクウや3-SAT）を符号化・解消できることを示すこと。
• ニューラルネットワークと外部推論モジュールの間の連携障壁を乗り越えるため、推論を微分可能とし、制約に配慮した確率的勾配降下法により共同最適化すること。

提案手法

• スゥドクウのルールや熱力学的原則などの事前知識や制約を捉える構造的潜在空間に、入力データを符号化する。
• バッチ処理された制約関連変数（例：スゥドクウの行内のマスや結晶位相ルール）を扱う推論モジュールを用い、微分可能な緩和により論理的および制約ベースのルールの満たしを強制する。
• 制約付き潜在表現から出力（例：数字や結晶構造）を再構成する生成デコーダーを統合し、高速な推論を可能にする。
• 生成デコーダーの出力（速やかな思考）と推論モジュールの制約満たし（ゆっくりとした思考）を組み合わせた共同目的関数を、制約に配慮した確率的勾配降下法で最適化する。
• 現在の制約の満たし具合に応じて制約重みを動的に調整し、ノイズや曇ったデータの状況下でも収束性と頑健性を向上させる。
• 適切な潜在空間符号化、推論モジュール、制約集合を定義することで、さまざまなタスクにフレームワークを適応させ、ドメインを超えた一般化を可能にする。

実験結果

リサーチクエスチョン

• RQ1 統一された深層学習フレームワークは、複雑で構造的なタスクを解くために、高速で自動的なパターン認識と遅い明示的推論を効果的に統合できるか？
• RQ2 論理的および制約ベースの推論を、教師ありまたは弱教師ありの設定において、ニューラルネットワーク最適化とエンドツーエンドで統合できるか？
• RQ3 DRNets は、ラベルなしの教師あり深層学習モデルを上回る性能を示せるか？特に3-SAT やスゥドクウといった組合せ問題において。
• RQ4 DRNets は、従来の手法や専門家の能力を超えて、結晶構造位相マッピングといった現実世界の科学的発見課題を解けるか？
• RQ5 XRDデータにおけるスターリングパターンなどの事前知識の統合は、材料発見における再構成精度と物理的妥当性をどのように向上させるか？

主な発見

• DRNets は、重ねられた手書きスゥドクウ（Multi-MNIST-Sudoku）の分離において、100%の数字認識精度を達成し、教師あり最先端モデルを上回った。
• 結晶構造位相マッピングタスクにおいて、DRNets は IAFD ベースラインを著しく上回り、Bi-Cu-V-O システムにおいて L1（3.993 vs. 10.580）および L2（0.196 vs. 0.992）再構成誤差が低かった。
• DRNets は、専門家が物理的に意味があり正確であると確認した、従来未知の Bi-Cu-V-O システムの位相マップを正常に回復した。
• 3-SAT 問題において最も難しい比（m/n = 4.3）で、DRNets は100変数のインスタンスの77.9%を2時間以内に解き、NeuroSAT や PDP といった教師ありモデルを上回った。
• 9x9 スゥドクウパズルにおいて、DRNets は1時間の解法時間で99.8%のインスタンスを解いたが、これは教師ありの RRNet モデル（99.6%）を上回った。ただし、DRNets は教師なしで学習された。
• DRNets は、教師なしで標準的な組合せ問題を解ける優れた一般化性能を示した一方で、ノイズや不確実性を含む複雑な現実世界の科学的問題にも対応できた。