[论文解读] Automated Verification of Neural Networks: Advances, Challenges and Perspectives

Francesco Leofante, Nina Narodytska+2 more|arXiv (Cornell University)|May 25, 2018

Adversarial Robustness in Machine Learning参考文献 17被引用 51

一句话总结

本综述对用于验证神经网络的自动推理方法进行分类，详细介绍技术、网络、性质及未来的研究方向。

ABSTRACT

Neural networks are one of the most investigated and widely used techniques in Machine Learning. In spite of their success, they still find limited application in safety- and security-related contexts, wherein assurance about networks' performances must be provided. In the recent past, automated reasoning techniques have been proposed by several researchers to close the gap between neural networks and applications requiring formal guarantees about their behavior. In this work, we propose a primer of such techniques and a comprehensive categorization of existing approaches for the automated verification of neural networks. A discussion about current limitations and directions for future investigation is provided to foster research on this topic at the crossroads of Machine Learning and Automated Reasoning.

研究动机与目标

• 总结神经网络自动验证技术的全景。
• 按网络类型和属性对现有方法进行分类。
• 识别当前的局限性并提出在 ML 与自动推理交叉点的未来研究方向。

提出的方法

• 通过将神经网络编码为约束系统来解释验证框架。
• 描述判定程序：SAT、SMT 和 MIP 求解器，以及它们如何处理神经网络约束。
• 按网络类型（BNN、DNN 变体、浅层 NN）和属性（不变性、可逆性、等价性）对文献进行分类。
• 给出一个统一的属性形式化，使用前置/后置条件和全称/存在量化。
• 讨论局部与全局属性验证设置。

实验结果

研究问题

• RQ1 用于验证神经网络的主要自动推理技术是什么？
• RQ2 如何对网络进行分类以按属性和结构组织验证方法？
• RQ3 在 NN 验证中优先关注哪些属性（不变性、可逆性、等价性），以及在哪些情境（局部/全局）？
• RQ4 在 ML 与自动推理交叉点的当前局限性与未来方向是什么？

主要发现

• 基于 CDCL 的 SAT、SMT 与 MIP 作为 NN 验证的核心判定程序的概览。
• 跨网络类型的验证方法分类：BNN、DNN（ReLU、池化）以及通用 NN。
• 将不变性、可逆性和等价性形式化为验证属性的定义，包括全局与局部变体。
• 讨论 SMT 如何构建布尔抽象并通过理论引理细化以求解 NN 约束。
• 识别深度网络的扩展性挑战以及需要跨学科研究以推动验证技术的发展。