[論文レビュー] Open- and Closed-Loop Neural Network Verification using Polynomial Zonotopes

Niklas Kochdumper, Christian Schilling+2 more|arXiv (Cornell University)|Jul 6, 2022

Adversarial Robustness in Machine Learning参考文献 48被引用数 5

ひとこと要約

この論文は、多項式ゾノトープを用いて、ニューラルネットワーク出力のタイトな非凸な包摂を計算する新しい手法を提案している。この手法により、神経ネットワーク制御システムにおける効率的かつ正確な到達可能性解析が可能になる。ニューロン活性化関数を多項式関数で近似し、行列演算による集合の伝播を実行することで、複数のベンチマークにおいて、最先端のツールと比較して速度と正確性の両面で優れている。

ABSTRACT

We present a novel approach to efficiently compute tight non-convex enclosures of the image through neural networks with ReLU, sigmoid, or hyperbolic tangent activation functions. In particular, we abstract the input-output relation of each neuron by a polynomial approximation, which is evaluated in a set-based manner using polynomial zonotopes. While our approach can also can be beneficial for open-loop neural network verification, our main application is reachability analysis of neural network controlled systems, where polynomial zonotopes are able to capture the non-convexity caused by the neural network as well as the system dynamics. This results in a superior performance compared to other methods, as we demonstrate on various benchmarks.

研究の動機と目的

• 安全性が求められるアプリケーションにおける、深層ニューラルネットワークが生成する複雑な非凸な画像を過剰に包摂する課題に対処すること。
• 状態と制御入力の依存関係を保持することで、ニューラルネットワーク制御ダイナミクスシステムにおける効率的かつ正確な到達可能性解析を可能にすること。
• 非凸ダイナミクスを捉えるために、凸包摂やゾノトープ、テイラー型モデルといった既存の集合表現の限界を乗り越えること。
• ニューラルネットワーク制御システムの形式的検証にスケーラブルかつ計算的に効率的な手法を開発すること。
• オープンループ検証およびクローズドループ到達可能性解析において、最先端のツールを上回る性能を示すこと。

提案手法

• 各ニューロンの入出力挙動を、ReLU、シグモイド、双曲線正接ユニットに適用可能な活性化関数の多項式近似によって抽象化する。
• 集合を多項式ゾノトープで表現し、行列演算のみを用いてネットワーク全体にわたる集合の伝播を効率的に行う。
• 多項式ゾノトープ表現は、ニューラルネットワークダイナミクスに内在する非線形的依存関係と非凸性を捉えることができる。
• ReLUネットワークに対しては、区分的アフィン分解を用いて正確な画像計算を実現する一方、シグモイドやtanhのような滑らかな活性化関数には近似を用いる。
• 神経ネットワーク出力から導かれる制御入力のタイトな包摂を維持することで、到達可能性解析パイプラインにスムーズに統合可能である。
• 分枝限定法の計算ボトル neck や、高次元の非線形モデル、テイラー型モデルにおける剰余項の増大といった問題を回避する。

実験結果

リサーチクエスチョン

• RQ1 多項式ゾノトープは、凸型や標準的なゾノトープベースの手法と比較して、神経ネットワーク出力のよりタイトで効率的な包摂を提供できるか？
• RQ2 神経ネットワーク制御システムの到達可能性解析において、本手法は最先端のツールと比較して、性能と正確性の両面でどのように差をつけるか？
• RQ3 多項式ゾノトープは、クローズドループダイナミクスにおけるシステム状態とニューラルネットワーク制御入力の間の依存関係をどの程度正確に保持できるか？
• RQ4 活性化関数に多項式近似を用いることで、非凸集合伝播における効率性と正確性の両立が可能になるか？
• RQ5 本手法は、大規模なネットワークや複雑なベンチマークに対しても、計算の実行可能性を維持したままスケーラブルに拡張可能か？

主な発見

• 多項式ゾノトープ手法は、12のベンチマークのうち10つにおいて、到達可能性解析の計算時間で他のすべてのツールを大きく上回った。これはReLU、シグモイド、双曲線正接ネットワークを含む。
• ReLU活性化関数を用いたTORAベンチマークでは、本手法が13秒で完了したが、Verisig 2.0は13402秒を要し、1000倍の高速化が達成された。
• ACCベンチマークでは、本手法が2秒で検証を完了した。JuliaReachは1秒、Sherlockは4秒を要したため、高い正確性を維持しつつも、競争力のある性能を示した。
• 他のツールが失敗した1つのベンチマーク（Airplane）を除き、すべてのベンチマークで正しく検証に成功した。これは、本手法の頑健性と完全性を示している。
• テイラー型モデルに依存するツールと比較して、本手法は迅速な剰余項の増大を回避し、よりタイトな包摂を維持できる。これは、より良い依存関係の追跡に起因する。
• 分枝限定法を必要とせず、多項式ゾノトープによるタイトな包摂のおかげで、すべてのテストベンチマークに対して完全な検証が達成された。