[論文レビュー] Sampling-based Reachability Analysis: A Random Set Theory Approach with Adversarial Sampling

Thomas Lew, Marco Pavone|arXiv (Cornell University)|Jan 1, 2020

Adversarial Robustness in Machine Learning被引用数 2

ひとこと要約

本稿では、ランダムセット理論を用いたサンプリングベースの到達可能性解析手法を提案する。この手法は、真の到達集合の凸包への収束を保証するとともに、敵対的サンプリングを導入することで収束を加速し、過剰な保守性を低減する。本手法により、ニューラルネットワークや高次元の不確実システムに対しても、より高速かつ信頼性の高い解析が可能になる。

ABSTRACT

Reachability analysis is at the core of many applications, from neural network verification, to safe trajectory planning of uncertain systems. However, this problem is notoriously challenging, and current approaches tend to be either too restrictive, too slow, too conservative, or approximate and therefore lack guarantees. In this paper, we propose a simple yet effective sampling-based approach to perform reachability analysis for arbitrary dynamical systems. Our key novel idea consists of using random set theory to give a rigorous interpretation of our method, and prove that it returns sets which are guaranteed to converge to the convex hull of the true reachable sets. Additionally, we leverage recent work on robust deep learning and propose a new adversarial sampling approach to robustify our algorithm and accelerate its convergence. We demonstrate that our method is faster and less conservative than prior work, present results for approximate reachability analysis of neural networks and robust trajectory optimization of high-dimensional uncertain nonlinear systems, and discuss future applications.

研究の動機と目的

• 既存の到達可能性解析手法の限界、すなわち計算が遅すぎる、過剰に保守的すぎる、形式的保証が欠けているなどの問題に対処すること。
• 到達集合の凸包への収束を厳密に保証するサンプリングベースのアプローチを開発すること。
• ロバストディープラーニングにインspiredされた敵対的サンプリングを用いて、収束速度とロバスト性を向上させること。
• 高次元で非線形な不確実システムやニューラルネットワークに対する実用的な到達可能性解析を可能にすること。
• 本手法の有効性を、近似到達可能性解析およびロバストトラジェクトリ最適化の分野で実証すること。

提案手法

• ランダムセット理論を用いてサンプリングプロセスを形式的に解釈し、真の到達集合の凸包への収束を証明する。
• モンテカルロサンプリングを用いて初期不確実性集合からの軌道を生成し、経験的分布によって到達集合を近似する。
• 敵対的サンプリングを導入し、不確実性の低減を最大化するようにサンプルを戦略的に選択することで収束を加速する。
• 非線形かつ高次元なシステムを含む任意の力学系に一般に適用可能なように設計されている。
• ディープラーニング分野のロバスト最適化技術を応用し、不確実性が高く、障害モードが顕著な領域へ向かってサンプリングを誘導する。
• 計算効率を向上させる一方で、出力集合に対する形式的保証を維持する。

実験結果

リサーチクエスチョン

• RQ1 サンプリングベースの到達可能性解析手法は、真の到達集合の凸包への形式的収束保証を提供できるか？
• RQ2 敵対的サンプリングは、到達可能性解析における収束速度の向上と保守性の低減にどのように寄与するか？
• RQ3 この手法は、高次元で非線形な不確実力学系にどの程度スケーラブルに適用可能か？
• RQ4 本手法は、ニューラルネットワークの検証やロバストトラジェクトリ計画に効果的に応用可能か？
• RQ5 先行のサンプリングベースおよび集合ベースの到達可能性手法と比較して、本手法の正確性と効率性はどのように異なるか？

主な発見

• 提案手法は、真の到達集合の凸包への収束を保証し、形式的な正しさの保証を提供する。
• 敵対的サンプリングにより収束が著しく加速され、正確な近似に必要なサンプル数が削減される。
• 特に高次元システムにおいて、先行のサンプリングベース手法よりも保守性が低い。
• 実験的結果から、ニューラルネットワークの近似到達可能性解析において、性能が向上していることが示された。
• 高次元で非線形な不確実システムに対して、ロバストトラジェクトリ最適化を実現し、実用的なスケーラビリティを示した。
• ランダムセット理論の統合により、サンプリングベースアプローチに厳密な理論的基盤が提供された。