[論文レビュー] Statistical Verification of Neural Networks

Stefan Webb, Tom Rainforth+2 more|arXiv (Cornell University)|Nov 17, 2018

Adversarial Robustness in Machine Learning参考文献 8被引用数 1

ひとこと要約

この論文は、入力分布下での特性違反の確率をマルチレベルスプリッティングを用いて推定する統計的検証フレームワークを導入し、違反が検出された場合には形式的保証を伴うスケーラブルなロバストネス解析を可能にするとともに、違反が検出されない場合でも信頼性の高い確率推定を提供する。これは、ベンチマークモデルにおいて正確性を維持しながら、形式的検証のスケーラビリティを凌駕する。

ABSTRACT

We present a new approach to assessing the robustness of neural networks based on estimating the proportion of inputs for which a property is violated. Specifically, we estimate the probability of the event that the property is violated under an input model. Our approach critically varies from the formal verification framework in that when the property can be violated, it provides an informative notion of how robust the network is, rather than just the conventional assertion that the network is not verifiable. Furthermore, it provides an ability to scale to larger networks than formal verification approaches. Though the framework still provides a formal guarantee of satisfiability whenever it successfully finds one or more violations, these advantages do come at the cost of only providing a statistical estimate of unsatisfiability whenever no violation is found. Key to the practical success of our approach is an adaptation of multi-level splitting, a Monte Carlo approach for estimating the probability of rare events, to our statistical robustness framework. We demonstrate that our approach is able to emulate formal verification procedures on benchmark problems, while scaling to larger networks and providing reliable additional information in the form of accurate estimates of the violation probability.

研究の動機と目的

• ニューラルネットワークのロバストネスを評価する際の形式的検証のスケーラビリティ制限を克服すること。
• 与えられた入力分布下でのニューラルネットワークの特性違反確率を統計的に根拠のある方法で推定すること。
• 従来の形式的検証手法が許容する範囲を超える大きなニューラルネットワークの解析を可能にすること。
• 違反が存在する場合に、単に「検証不能」という二値結果ではなく、情報豊かなロバストネスメトリクスを提供すること。
• 違反が検出された場合には形式的保証を維持するが、違反が検出されない場合には確率的推定を提供するように設計すること。

提案手法

• 指定された入力モデル下で、モンテカルロサンプルを用いて特性違反の確率を推定する。
• レアイベント確率推定に適した技術であるマルチレベルスプリッティングを用い、低確率の違反事象を効率的に計算する。
• 推定された違反確率の不確実性を定量化するために、統計的信頼区間を統合する。
• 少なくとも1件の違反が検出された場合には、その場合の正しさを保証する形式的検証の保証を提供する。
• 形式的手法で一般的に生じる組み合わせ的爆発を回避することで、より大きなネットワークへのスケーラビリティを実現する。
• 正確な検証が不可能なほど大きなネットワークにまで拡張可能なように、ベンチマーク問題では形式的検証を模倣する。

実験結果

リサーチクエスチョン

• RQ1 形式的検証の限界を超えて、スケーラブルかつ信頼性の高いニューラルネットワークのロバストネス推定を統計的手法が提供できるか？
• RQ2 マルチレベルスプリッティングは、ニューラルネットワークにおける特性違反の確率をどの程度正確に推定できるか？
• RQ3 確率的性質を持つにもかかわらず、違反が検出された場合には形式的保証を維持できるか？
• RQ4 従来の形式的検証と比較して、この手法はどの程度大きなニューラルネットワークにスケーリングできるか？
• RQ5 違反が検出されない場合でも、例えば違反確率の推定値のような意味のあるロバストネスメトリクスを提供できるか？

主な発見

• 提案手法はベンチマーク問題において形式的検証を効果的に模倣し、違反の検出において同等の結果を達成した。
• 従来の形式的検証手法では不可能なほど大きなニューラルネットワークに対してもスケーリング可能である。
• 違反が検出された場合には、正しさを保証する形式的検証の保証を提供し、検証の厳密性を維持した。
• 違反が検出されない場合には、違反確率の統計的に妥当な推定値を提供し、実用的なロバストネスインサイトを提供した。
• マルチレベルスプリッティングの使用により、ロバストネス評価に不可欠なまれな事象の確率を正確に推定できるようになった。
• 信頼性の高い情報豊富なロバストネスメトリクス（信頼区間を含む）を提供し、モデル評価における実用的価値を高めた。