[论文解读] On Tractable Representations of Binary Neural Networks

Weijia Shi, Andy Shih+2 more|arXiv (Cornell University)|Apr 5, 2020

Adversarial Robustness in Machine Learning参考文献 42被引用 7

一句话总结

本文提出一种知识编译方法，将二值神经网络表示为可 tractable 的布尔电路——具体为有序二叉决策图（OBDD）和命题决策图（SDD）——以实现模型行为的正式验证与解释。该方法提出一种伪多项式时间算法，将单个神经元编译为紧凑、可 tractable 的表示形式，在手写数字分类任务中展示了高准确率与低内存开销的可行性与鲁棒性分析。

ABSTRACT

We consider the compilation of a binary neural network's decision function into tractable representations such as Ordered Binary Decision Diagrams (OBDDs) and Sentential Decision Diagrams (SDDs). Obtaining this function as an OBDD/SDD facilitates the explanation and formal verification of a neural network's behavior. First, we consider the task of verifying the robustness of a neural network, and show how we can compute the expected robustness of a neural network, given an OBDD/SDD representation of it. Next, we consider a more efficient approach for compiling neural networks, based on a pseudo-polynomial time algorithm for compiling a neuron. We then provide a case study in a handwritten digits dataset, highlighting how two neural networks trained from the same dataset can have very high accuracies, yet have very different levels of robustness. Finally, in experiments, we show that it is feasible to obtain compact representations of neural networks as SDDs.

研究动机与目标

• 通过将决策函数编译为可 tractable 的布尔电路，实现对二值神经网络决策的正式验证与解释。
• 通过基于符号知识编译的方法，解决二值神经网络中鲁棒性分析的挑战。
• 开发一种高效、可扩展的神经元编译算法，适用于具有整数权重和阶跃激活函数的神经元。
• 在真实世界分类任务中，实证评估模型准确率、鲁棒性与电路规模之间的权衡。
• 证明即使对于复杂模型，使用 SDD 也能构建紧凑且可解释的神经网络可 tractable 表示。

提出的方法

• 利用阶跃激活函数与二值输入，将二值神经网络中的每个神经元编译为布尔函数，实现纯布尔计算。
• 应用伪多项式时间算法，将单个神经元编译为 OBDD 或 SDD，时间与空间复杂度受 O(nW) 限制，其中 n 为输入大小，W 为最大权重绝对值。
• 采用知识编译技术，将神经网络的布尔函数转换为支持高效查询的可 tractable 电路格式（SDD）。
• 通过基于输入位置与阈值索引的子分类器矩阵进行动态规划，高效构建 OBDD 表示。
• 引入新型查询用于鲁棒性分析，包括基于实例与基于模型的鲁棒性，利用模型计数与电路可 tractability。
• 在手写数字数据集上验证该方法，通过基于电路的分析比较两个高准确率模型在鲁棒性特性上的差异。

实验结果

研究问题

• RQ1 具有 0/1 输入与阶跃激活函数的二值神经网络，能否被编译为支持高效推理与验证的可 tractable 布尔电路？
• RQ2 所提出的神经元编译伪多项式时间算法在输入大小与权重精度增加时，其可扩展性如何？
• RQ3 可 tractable 电路表示在多大程度上能保持模型准确率，同时支持鲁棒性分析？
• RQ4 在相同数据集上训练的两个高准确率二值神经网络，在通过编译电路分析时，其鲁棒性差异有多大？
• RQ5 使用 SDD 是否可行构建紧凑且人类可解释的二值神经网络表示？

主要发现

• 所提出的伪多项式时间算法成功将神经元编译为 OBDD，其大小受 O(nW) 限制，即使在权重精度固定时，对具有数百个输入的神经元也能实现可 tractable 表示。
• 实验表明，二值神经网络的 SDD 表示保持紧凑且可构造，4 位精度下成功完成编译，且准确率维持在 97.8%。
• 在相同数据集上训练的两个高准确率二值神经网络，通过基于电路的分析揭示其鲁棒性水平存在显著差异，尽管性能相近。
• 当权重精度超过 4 位时，OBDD 构造因内存溢出而失败，表明表示规模呈指数级增长。
• 该方法通过模型计数支持基于模型的鲁棒性查询，其表达能力优于 NP 完全查询（如可满足性），且在编译后的电路中具有可 tractability。
• 案例研究证实，将知识编译为 SDD 为二值神经网络的正式验证与解释提供了切实可行的实践路径。