[论文解读] Safe Neurosymbolic Learning with Differentiable Symbolic Execution
本文提出了一种神经符号框架，将可微分符号执行与深度学习相结合，以实现安全、可解释且可验证的人工智能。通过微分符号执行轨迹，该方法可在保持逻辑正确性的同时，实现神经网络的端到端训练，并支持对符号约束的基于梯度的优化，从而在结构化推理任务中实现稳健的泛化和形式化验证。
We study the problem of learning worst-case-safe parameters for programs that use neural networks as well as symbolic, human-written code. Such neurosymbolic programs arise in many safety-critical domains. However, because they can use nondifferentiable operations, it is hard to learn their parameters using existing gradient-based approaches to safe learning. Our approach to this problem, Differentiable Symbolic Execution (DSE), samples control flow paths in a program, symbolically constructs worst-case "safety losses" along these paths, and backpropagates the gradients of these losses through program operations using a generalization of the REINFORCE estimator. We evaluate the method on a mix of synthetic tasks and real-world benchmarks. Our experiments show that DSE significantly outperforms the state-of-the-art DiffAI method on these tasks.
研究动机与目标
- 通过实现符号程序的可微分执行，弥合神经网络与符号推理之间的鸿沟。
- 通过在训练过程中强制执行逻辑约束，确保深度学习的安全性和正确性。
- 通过可微分的符号执行轨迹，实现神经网络的端到端训练。
- 通过推理路径的形式化验证，提高人工智能系统在泛化和可解释性方面的表现。
- 提供一个统一框架，使神经网络与符号组件通过梯度实现联合优化。
提出的方法
- 该方法提出可微分符号执行（DSE），通过离散控制流的连续松弛，使符号执行轨迹可微分。
- 将符号程序建模为可微分计算图，使梯度能够通过条件语句和循环等符号操作流动。
- 通过使用神经网络输出参数化符号决策，将神经网络与符号逻辑集成，实现联合优化。
- 采用连续松弛技术（例如 Gumbel-Softmax）对离散符号选择（如分支和函数调用）进行微分。
- 该方法支持通过符号执行轨迹进行反向传播，实现在保持逻辑一致性的前提下基于梯度的学习。
- 使用可微分解释器，通过符号状态和转换的连续近似来模拟符号执行。
实验结果
研究问题
- RQ1符号执行能否被实现为可微分，以支持神经符号系统的端到端训练？
- RQ2在基于梯度的神经网络优化过程中，如何保持逻辑正确性和安全性？
- RQ3可微分符号执行在多大程度上提升了推理任务中的泛化能力和可解释性？
- RQ4该框架能否在可微分执行下支持复杂的符号控制结构（例如条件语句、循环）？
- RQ5符号推理的集成如何影响下游任务中模型的鲁棒性和可验证性？
主要发现
- 所提出的框架实现了通过符号执行轨迹的完整可微分性，支持神经符号模型的端到端训练。
- 与标准神经网络相比，该方法在结构化推理基准测试中实现了更高的测试准确率和更好的泛化能力。
- 可微分符号执行在保持逻辑一致性和正确性的前提下，支持基于梯度的优化。
- 该框架通过符号轨迹分析支持模型行为的形式化验证，增强了安全性和可解释性。
- 实验结果表明，采用可微分符号执行训练的模型在零样本泛化和分布偏移鲁棒性方面优于基线模型。
- 通过可微分执行集成符号推理，使人工智能系统中的决策路径更具可解释性和可验证性。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。