[論文レビュー] Formal Verification of Unknown Dynamical Systems via Gaussian Process Regression

J.D. Jackson, Luca Laurenti+2 more|arXiv (Cornell University)|Dec 31, 2021

Mass Spectrometry Techniques and Applications被引用数 6

ひとこと要約

本稿では、入出力データセットから未モデル化された力学的ダイナミクスをガウス過程回帰を用いて学習することにより、未知の力学的システムに対するデータ駆動型形式検証フレームワークを提示する。確率的遷移境界を有する有限状態の不確実性付きマルコフ決定過程の抽象化を構築することで、既存のモデルチェッカーを用いた形式検証が可能となり、ガウス過程回帰と離散化からの不確実性の定量化を伴いながら、元のシステムに対する結果の正しさを保証する。

ABSTRACT

Leveraging autonomous systems in safety-critical scenarios requires verifying their behaviors in the presence of uncertainties and black-box components that influence the system dynamics. In this work, we develop a framework for verifying discrete-time dynamical systems with unmodelled dynamics and noisy measurements against temporal logic specifications from an input-output dataset. The verification framework employs Gaussian process (GP) regression to learn the unknown dynamics from the dataset and abstracts the continuous-space system as a finite-state, uncertain Markov decision process (MDP). This abstraction relies on space discretization and transition probability intervals that capture the uncertainty due to the error in GP regression by using reproducible kernel Hilbert space analysis as well as the uncertainty induced by discretization. The framework utilizes existing model checking tools for verification of the uncertain MDP abstraction against a given temporal logic specification. We establish the correctness of extending the verification results on the abstraction created from noisy measurements to the underlying system. We show that the computational complexity of the framework is polynomial in the size of the dataset and discrete abstraction. The complexity analysis illustrates a trade-off between the quality of the verification results and the computational burden to handle larger datasets and finer abstractions. Finally, we demonstrate the efficacy of our learning and verification framework on several case studies with linear, nonlinear, and switched dynamical systems.

研究の動機と目的

• 未モデル化またはブラックボックスなダイナミクスを有する安全が重要な自律システムの検証の課題に対処すること。
• モデルの不確実性が存在する中でも厳密な保証を提供することで、データ駆動型学習と形式検証のギャップを埋めること。
• 未知のダイナミクスを有するシステムに対して、既存のモデルチェッカーを用いて時系列論理仕様を検証することを可能にすること。
• ガウス過程回帰と空間離散化からの不確実性を、有限状態の抽象化へ厳密に定量化・伝搬すること。

提案手法

• ノイズを含む入出力データセットから未知のシステムダイナミクスを学習するためにガウス過程回帰を活用する。
• 再生核ヒルベルト空間解析を用いて、GP回帰誤差の形式的境界を導出し、学習されたダイナミクスにおける不確実性を定量化する。
• 空間の離散化を実行し、連続状態空間を有限個の領域に抽象化する。
• GP回帰の不確 Parameters と離散化誤差を両方とも捉える、区間値をとる遷移確率を有する不確実性付きマルコフ決定過程（MDP）を構築する。
• 不確実性付きMDPに対してモデルチェックを適用し、時系列論理仕様（LTLまたはPCTL）を検証する。
• 抽象化における検証結果が、元の部分的に観測可能なシステムへ拡張されることを証明することで、正しさを確立する。

実験結果

リサーチクエスチョン

• RQ1 データセットと時系列論理仕様のみを用いて、未知または未モデル化されたダイナミクスを有するシステムを形式的に検証できるか？
• RQ2 ガウス過程回帰からの不確実性を、有限状態の抽象化へ厳密に定量化・伝搬することは可能か？
• RQ3 データ駆動型形式検証の文脈において、検証の正確性と計算複雑性のトレードオフは何か？
• RQ4 抽象化されたシステムにおける検証結果が、元の連続的システムに対して妥当かつ完全であることを保証するにはどうすればよいか？

主な発見

• フレームワークは初期状態の3つの集合を生成する：Q^yes（仕様を満たすことが保証される）、Q^?（満たす可能性がある）、Q^no（満たさないことが保証される）。
• 抽象化における検証結果の正しさが、元の部分的に観測可能なシステムへ形式的に拡張されることを証明した。
• 計算複雑性はデータセットのサイズと離散状態数に関して多項式的であり、中程度のスケールの問題へのスケーラビリティを実現する。
• 本手法は、決定論的（LTL）および確率的（PCTL）な時系列論理仕様の両方をサポートする。
• 事例研究により、線形、非線形、スイッチングダイナミクスを有する複雑性の異なるシステムにおいて、有効性が示された。
• 本フレームワークにより、元のシステムの形式的に妥当かつ完全な抽象化を提供することで、市販のモデルチェッカーの使用が可能になった。