[论文解读] Deep Reasoning Networks: Thinking Fast and Slow

Di Chen, Yiwei Bai+4 more|arXiv (Cornell University)|Jun 3, 2019

Machine Learning in Materials Science参考文献 42被引用 11

一句话总结

Deep Reasoning Networks (DRNets) 在端到端、无监督的框架中，将深度学习与逻辑及约束推理相结合，融合了快速模式识别（系统1）与缓慢、结构化的推理（系统2）。DRNets 在去混叠重叠手写数独（100% 数字准确率）和解决复杂的晶相结构相图任务方面，优于当前最先进方法，包括此前无法解决的材料体系。

ABSTRACT

We introduce Deep Reasoning Networks (DRNets), an end-to-end framework that combines deep learning with reasoning for solving complex tasks, typically in an unsupervised or weakly-supervised setting. DRNets exploit problem structure and prior knowledge by tightly combining logic and constraint reasoning with stochastic-gradient-based neural network optimization. We illustrate the power of DRNets on de-mixing overlapping hand-written Sudokus (Multi-MNIST-Sudoku) and on a substantially more complex task in scientific discovery that concerns inferring crystal structures of materials from X-ray diffraction data under thermodynamic rules (Crystal-Structure-Phase-Mapping). At a high level, DRNets encode a structured latent space of the input data, which is constrained to adhere to prior knowledge by a reasoning module. The structured latent encoding is used by a generative decoder to generate the targeted output. Finally, an overall objective combines responses from the generative decoder (thinking fast) and the reasoning module (thinking slow), which is optimized using constraint-aware stochastic gradient descent. We show how to encode different tasks as DRNets and demonstrate DRNets' effectiveness with detailed experiments: DRNets significantly outperform the state of the art and experts' capabilities on Crystal-Structure-Phase-Mapping, recovering more precise and physically meaningful crystal structures. On Multi-MNIST-Sudoku, DRNets perfectly recovered the mixed Sudokus' digits, with 100% digit accuracy, outperforming the supervised state-of-the-art MNIST de-mixing models. Finally, as a proof of concept, we also show how DRNets can solve standard combinatorial problems -- 9-by-9 Sudoku puzzles and Boolean satisfiability problems (SAT), outperforming other specialized deep learning models. DRNets are general and can be adapted and expanded to tackle other tasks.

研究动机与目标

• 通过在统一框架中整合系统1（模式识别）与系统2（逻辑推理），解决纯深度学习在推理密集型任务中的局限性。
• 实现神经网络与推理模块的端到端训练，通过强制执行逻辑和物理约束，尤其适用于低监督或无监督设置。
• 解决复杂的科学发现问题——例如，从X射线衍射数据推断晶体结构——其中专家知识和热力学规则至关重要。
• 通过编码并求解标准组合问题（如9x9数独和3-SAT）实现视觉任务之外的泛化，且无需任何监督。
• 通过使推理过程可微分并利用约束感知随机梯度下降进行联合优化，克服神经网络与外部推理模块之间的协调障碍。

提出的方法

• 将输入数据编码到结构化潜在空间中，以捕捉先验知识和约束，如数独规则或热力学原理。
• 使用推理模块批量处理相关约束变量（例如数独行中的单元格或晶体相规则），并通过可微松弛实现逻辑和基于约束的规则满足。
• 集成一个生成解码器，从受约束的潜在表示中重建输出（例如数字或晶体结构），实现快速推理。
• 使用约束感知随机梯度下降，联合优化生成解码器输出（快速思考）与推理模块的约束满足度（慢速思考）的联合目标。
• 根据当前约束的满足程度，动态调整约束权重，提升在噪声或模糊数据设置下的收敛性和鲁棒性。
• 通过定义适当的潜在空间编码、推理模块和约束集，将框架适配于各类任务，实现在不同领域间的泛化能力。

实验结果

研究问题

• RQ1 统一的深度学习框架能否有效结合快速、自动的模式识别与缓慢、显式的推理，以解决复杂且结构化的任务？
• RQ2 在无监督或弱监督设置下，如何实现逻辑和基于约束的推理与神经网络优化的端到端整合？
• RQ3 DRNets 在无需任何标注监督的情况下，能在多大程度上超越监督深度学习模型，解决如3-SAT和数独等组合问题？
• RQ4 DRNets 能否解决超越现有方法和专家能力范围的真实世界科学发现问题——例如晶体结构相图映射？
• RQ5 在材料发现中，整合先验知识（例如XRD数据中的峰形模式）在多大程度上能提升重建准确率和物理解释性？

主要发现

• 在去混叠重叠手写数独（Multi-MNIST-Sudoku）任务中，DRNets 达到了100%的数字准确率，优于监督的最先进模型。
• 在晶体结构相图映射任务中，DRNets 显著优于 IAFD 基线模型，在 Bi-Cu-V-O 体系中 L1 误差（3.993 vs. 10.580）和 L2 误差（0.196 vs. 0.992）均更低。
• DRNets 成功恢复了 Bi-Cu-V-O 体系中此前未知的相图，专家确认其具有物理解释性和准确性。
• 在最难的3-SAT问题比例（m/n = 4.3）下，DRNets 在2小时内解决了77.9%的100变量实例，优于监督模型如 NeuroSAT 和 PDP。
• 对于9x9数独谜题，DRNets 在1小时内解决了99.8%的实例，优于监督的 RRNet 模型（99.6%），尽管其为无监督设置。
• DRNets 展现出优越的泛化能力，无需监督即可求解标准组合问题，同时能够处理涉及噪声和不确定数据的复杂真实世界科学问题。