[论文解读] Piecewise Linear Neural Networks verification: A comparative study

Rudy Bunel, Ilker Turkaslan+3 more|arXiv (Cornell University)|Nov 1, 2017

Adversarial Robustness in Machine Learning参考文献 16被引用 49

一句话总结

本文通过混合整数规划（MIP）、满足逻辑模理论（SMT）以及一种新型分支定界方法，对分段线性神经网络的验证方法进行了比较评估。研究引入了一个新的基准测试套件，并发现了先前工作中存在的实现错误，从而推动了深度学习模型形式化验证的更可靠进展。

ABSTRACT

The success of Deep Learning and its potential use in many important safety- critical applications has motivated research on formal verification of Neural Network (NN) models. Despite the reputation of learned NN models to behave as black boxes and the theoretical hardness of proving their properties, researchers have been successful in verifying some classes of models by exploiting their piecewise linear structure. Unfortunately, most of these approaches test their algorithms without comparison with other approaches. As a result, the pros and cons of the different algorithms are not well understood. Motivated by the need to accelerate progress in this very important area, we investigate the trade-offs of a number of different approaches based on Mixed Integer Programming, Satisfiability Modulo Theory, as well as a novel method based on the Branch-and-Bound framework. We also propose a new data set of benchmarks, in addition to a collection of pre- viously released testcases that can be used to compare existing methods. Our analysis not only allows a comparison to be made between different strategies, the comparison of results from different solvers also revealed implementation bugs in published methods. We expect that the availability of our benchmark and the analysis of the different approaches will allow researchers to develop and evaluate promising approaches for making progress on this important topic.

研究动机与目标

• 为解决神经网络验证方法之间缺乏标准化比较的问题。
• 评估不同形式化验证技术在分段线性神经网络上的权衡。
• 通过跨求解器比较，识别现有验证方法中的实现缺陷。
• 提供一个公开可用的新基准测试套件，以实现验证工具的公平且可复现的评估。
• 通过支持系统性比较与验证，加速深度学习模型形式化验证的进展。

提出的方法

• 本研究评估了三种主要验证策略：混合整数规划（MIP）、满足逻辑模理论（SMT）以及一种基于新型分支定界的方法。
• 引入了一个新的基准测试套件，结合了先前发布的测试用例与新的、多样化的神经网络实例。
• 通过多个求解器之间的结果交叉比较，检测了已发表方法中的不一致性和实现错误。
• 评估框架支持对不同验证技术在性能、可扩展性和正确性方面的系统性分析。
• 该基准设计用于代表现实世界中安全关键的应用场景，并支持可复现的研究。

实验结果

研究问题

• RQ1 在验证性能和可扩展性方面，MIP、SMT以及所提出的分支定界方法如何比较？
• RQ2 在实际应用场景中，每种验证方法的关键优势与劣势是什么？
• RQ3 不同求解器之间结果的差异在多大程度上揭示了现有工具中的实现错误？
• RQ4 新基准测试套件在实现验证方法公平且可复现评估方面有多有效？
• RQ5 跨求解器比较能否作为检测已发表验证算法错误的可靠方法？

主要发现

• 跨求解器比较揭示了先前已发表验证方法中的实现错误，凸显了严格验证的必要性。
• 所提出的基于分支定界的方法表现出具有竞争力的性能与可扩展性，尤其在某些网络架构上表现优异。
• 基于MIP的方法展现出强大的表达能力，但在大规模网络上存在可扩展性限制。
• 基于SMT的方法在小型网络上表现良好，但在处理复杂约束时表现吃力。
• 新基准测试套件有效暴露了不一致性，并支持工具间的可靠比较。
• 本研究强调了在形式化神经网络验证中可复现性与交叉验证的重要性。