[論文レビュー] POLAR: A Polynomial Arithmetic Framework for Verifying Neural-Network Controlled Systems

Chao Huang, Jiameng Fan+7 more|arXiv (Cornell University)|Jun 25, 2021

Adversarial Robustness in Machine Learning参考文献 26被引用数 5

ひとこと要約

POLAR は、テイラー形式（TM）算術とベルンシュタイン・ベジエ形式、および記号的剰余を統合することで、ニューラルネットワーク制御系（NNCS）における効率的で高精度な限定時間到達可能性解析を可能にする、新しい多項式算術フレームワークである。この手法は、非微分可能な ReLU 活性化関数の取り扱いや、剰余の爆発の低減という、従来の手法の限界を克服し、到達集合の過剰近似が著しくタイトになり、最先端のツールよりもスケーラビリティが向上する。

ABSTRACT

We present POLAR, a polynomial arithmetic-based framework for efficient bounded-time reachability analysis of neural-network controlled systems (NNCSs). Existing approaches that leverage the standard Taylor Model (TM) arithmetic for approximating the neural-network controller cannot deal with non-differentiable activation functions and suffer from rapid explosion of the remainder when propagating the TMs. POLAR overcomes these shortcomings by integrating TM arithmetic with extbf{Bernstein B{é}zier Form} and extbf{symbolic remainder}. The former enables TM propagation across non-differentiable activation functions and local refinement of TMs, and the latter reduces error accumulation in the TM remainder for linear mappings in the network. Experimental results show that POLAR significantly outperforms the current state-of-the-art tools in terms of both efficiency and tightness of the reachable set overapproximation. The source code can be found in https://github.com/ChaoHuang2018/POLAR_Tool

研究の動機と目的

• 非微分可能な活性化関数を有する神経ネットワーク制御系（NNCS）における安全性の検証という課題に対処すること。
• ニューラルネットワーク伝搬における標準的テイラー形式（TM）算術の限界を克服することで、限定時間到達可能性解析の精度と効率を向上させること。
• 多項式算術技術の統合を通じて、NNCS における到達集合のスケーラブルでタイトな過剰近似を可能にすること。
• 連続時間系および離散時間系の両方の NNCS をサポートすること（例：QUAD やマウンテンカー）。
• 特に深く広いネットワークにおいて、レイヤーごとの伝搬における TM 剰余の誤差蓄積を低減すること。

提案手法

• 非微分可能な活性化関数（例：ReLU）を扱えるように、テイラー形式（TM）算術とベルンシュタイン・ベジエ形式を統合し、微分不能点でも多項式過剰近似が可能になるようにする。
• 1変数ベルンシュタイン近似を用いた局所的リファインメントにより、標準的 TM が高すぎる剰余成長を示す小さな定義域においても精度を向上させる。
• 区間ベースの剰余ではなく記号的剰余を用いることで、ネットワーク内の線形マッピングにおける誤差蓄積を低減し、特に複数のレイヤーに跨る場合に有効である。
• TM 伝搬における精度と計算コストのバランスを図るために、ベルンシュタイン近似と記号的剰余技術をハイブリッド的に適用する。
• ニューラルネットワークの各レイヤーを順次処理し、TM フローパイプラインを構築することで、時間ステップ間の状態依存関係を維持し、正確な閉ループ到達可能性解析を実現する。
• 連続時間系（例：QUAD）および離散時間系（例：マウンテンカー）の両方をサポートし、広範な適用可能性を示す。

実験結果

リサーチクエスチョン

• RQ1 非微分可能な活性化関数（例：ReLU）を有する神経ネットワーク制御系において、多項式算術フレームワークがその処理を効果的に行えるか。
• RQ2 テイラー形式算術をどのように拡張すれば、深層ニューラルネットワークにおけるレイヤーごとの伝搬における剰余の爆発を防げるか。
• RQ3 ベルンシュタイン・ベジエ形式は、到達可能性解析における TM 過剰近似の精度をどの程度向上させられるか。
• RQ4 記号的剰余の統合は、区間ベースの剰余表現と比較して、誤差蓄積をどの程度低減できるか。
• RQ5 提案フレームワークは、より大きな深さや幅のニューラルネットワークに対しても、タイトな到達集合過剰近似を維持しながらスケーリング可能か。

主な発見

• QUAD およびマウンテンカーのベンチマークにおいて、POLAR は Verisig 2.0 や ReachNN*、NNV よりも著しくタイトな到達集合過剰近似を達成している。
• QUAD ベンチマークでは、ステップ 50 における x₃ の TM 剰余幅を k=2、X₀=0.05 時に 1.2e-4 まで低減し、ベルンシュタイン近似の使用率はたった 1.34% にとどまっている。これは、他のすべての設定を上回る性能を示している。
• X₀=0.05 および k=2 の条件下で、POLAR は 50 ステップの到達可能性解析を 231 秒で完了し、剰余幅は 1.2e-4 である。一方、Verisig 2.0 はスケーラビリティの限界により計算不能だった。
• ベルンシュタイン近似と記号的剰余の両方を用いることで、ベースライン TM と比較して、剰余幅を最大 90% まで低減できる。これは、ベルンシュタインの使用率が非常に低い場合（例：一部のケースで 0%）でも、剰余がすでに良好に制御されている場合には有効である。
• POLAR はネットワークの深さと幅に対して良好にスケーリングされ、最大 5 レイヤー、1 レイヤーあたり 200 ニューロンのネットワークでも性能を維持しているが、初期集合の半径が大きくなると実行時間が延びる。
• X₀=0.4 のような大きな初期集合に対しても、POLAR は 50 ステップの解析を 1271 秒で完了（k=4）し、他のツールが計算不能だったのに対し、不確実性の大きさに対しても頑健であることが示された。