[论文解读] Open- and Closed-Loop Neural Network Verification using Polynomial Zonotopes

Niklas Kochdumper, Christian Schilling+2 more|arXiv (Cornell University)|Jul 6, 2022

Adversarial Robustness in Machine Learning参考文献 48被引用 5

一句话总结

本文提出了一种新颖的方法，利用多项式超椭球体（polynomial zonotopes）计算神经网络输出的紧致非凸包围，实现了在神经网络控制系统的高效且精确的可达性分析。通过将神经元激活近似为多项式函数，并仅使用矩阵运算传播集合，该方法在多个基准测试中均优于当前最先进的工具，在速度和精度方面表现更优。

ABSTRACT

We present a novel approach to efficiently compute tight non-convex enclosures of the image through neural networks with ReLU, sigmoid, or hyperbolic tangent activation functions. In particular, we abstract the input-output relation of each neuron by a polynomial approximation, which is evaluated in a set-based manner using polynomial zonotopes. While our approach can also can be beneficial for open-loop neural network verification, our main application is reachability analysis of neural network controlled systems, where polynomial zonotopes are able to capture the non-convexity caused by the neural network as well as the system dynamics. This results in a superior performance compared to other methods, as we demonstrate on various benchmarks.

研究动机与目标

• 为解决在安全关键应用中保守地包围深度神经网络产生的复杂非凸图像的挑战。
• 通过保留状态与控制输入之间的依赖关系，实现对神经网络控制的动力系统高效且精确的可达性分析。
• 克服凸包围以及现有集合表示方法（如超椭球体和泰勒模型）在捕捉非凸动态特性方面的局限性。
• 开发一种可扩展且计算高效的神经网络控制器形式化验证方法。
• 在开环验证与闭环可达性分析中，均展现出优于当前最先进工具的性能。

提出的方法

• 该方法使用激活函数的多项式近似来抽象每个神经元的输入-输出行为，适用于ReLU、Sigmoid和双曲正切单元。
• 采用多项式超椭球体表示集合，仅通过矩阵运算即可高效传播集合通过网络。
• 多项式超椭球体表示能够捕捉神经网络动态中固有的非线性依赖关系与非凸性。
• 该方法通过分段仿射分解实现ReLU网络的精确图像计算，同时对Sigmoid和Tanh等平滑激活函数使用近似方法。
• 通过保持由神经网络输出导出的控制输入的紧致包围，可无缝集成到可达性分析流程中。
• 该方法避免了分支定界法的计算瓶颈、高维非线性模型的复杂性以及泰勒模型中余项增长的问题。

实验结果

研究问题

• RQ1 与凸方法或标准超椭球体方法相比，多项式超椭球体能否提供更紧致且更高效的神经网络输出包围？
• RQ2 在神经网络控制系统的可达性分析中，该方法与当前最先进工具相比，在性能和精度方面表现如何？
• RQ3 多项式超椭球体在闭环动态中，能在多大程度上保持系统状态与神经网络控制输入之间的依赖关系？
• RQ4 使用激活函数的多项式近似，是否能在非凸集合传播中同时实现效率与精度？
• RQ5 该方法在保持计算可行性的同时，能否扩展到大型网络和复杂基准测试？

主要发现

• 在12个基准测试中的10个上，多项式超椭球体方法在可达性分析的计算时间上显著优于所有其他工具，涵盖ReLU、Sigmoid和双曲正切网络。
• 在TORA基准测试（ReLU激活）中，该方法仅耗时13秒，而Verisig 2.0耗时13402秒，实现了1000倍的速度提升。
• 在ACC基准测试中，该方法在2秒内完成验证，JuliaReach耗时1秒，Sherlock耗时4秒，表现出与高精度相当的竞争力。
• 除一个基准（Airplane）外，该方法成功验证了所有基准，而其他工具在该基准上也失败，表明其具备鲁棒性与完备性。
• 与依赖泰勒模型的工具相比，该方法避免了余项的快速增长，并因更优的依赖关系追踪而保持更紧致的包围。
• 由于多项式超椭球体包围的紧致性，该方法在无需分支定界的情况下，实现了所有测试基准的完整验证。