[論文レビュー] Verification for Machine Learning, Autonomy, and Neural Networks Survey

Weiming Xiang, Patrick Musau+6 more|arXiv (Cornell University)|Oct 3, 2018

Adversarial Robustness in Machine Learning参考文献 90被引用数 93

ひとこと要約

安全性が重要な自律サイバーフィジカルシステムにおける学習対応コンポーネントの検証手法の包括的な調査で、アーキテクチャ、学習、制御、仕様学習アプローチを網羅する。

ABSTRACT

This survey presents an overview of verification techniques for autonomous systems, with a focus on safety-critical autonomous cyber-physical systems (CPS) and subcomponents thereof. Autonomy in CPS is enabling by recent advances in artificial intelligence (AI) and machine learning (ML) through approaches such as deep neural networks (DNNs), embedded in so-called learning enabled components (LECs) that accomplish tasks from classification to control. Recently, the formal methods and formal verification community has developed methods to characterize behaviors in these LECs with eventual goals of formally verifying specifications for LECs, and this article presents a survey of many of these recent approaches.

研究の動機と目的

• 安全性が重要なCPSへのAI/MLの安全な統合を動機づけ、検証と形式手法の役割を概説する。
• 自律CPSのLECsに対するアーキテクチャ、セーフティアーキテクチャ、およびランタイムモニタリング手法を要約する。
• 自律性におけるニューラルネットワーク、到達可能性、学習ベースの制御の検証手法をレビューする。
• この分野における統計的ML手法と象徴的な形式検証の対比を強調する。

提案手法

• 自律CPSにおけるLECsの最近の検証手法の調査と総合。
• 安全なモニタリング、ランタイム検証、ランタイムアシュアランスを実用的な検証層としての議論。
• 到達可能性やリヤプノフ法に基づく手法を含む、アーキテクチャレベルおよび制御理論的検証手法の概要。
• STLやBoolean式などの安全性特性のための学習ベースの仕様推論と学習の検討。
• オンライン適応とポリシー学習中の学習ベースの制御フレームワークと安全性保証の提示。

実験結果

リサーチクエスチョン

• RQ1 自律CPSにおける学習対応コンポーネントの安全性を確保するための検証手法にはどのようなものがあるか？
• RQ2 安全性アーキテクチャ、ランタイムモニタリング、到達可能性分析は信頼できる自律システムにどのように寄与できるか？
• RQ3 ML駆動のコンポーネントに形式的保証を提供できる学習と仕様推論のアプローチはどのようなものか？
• RQ4 オンライン適応中に学習ベースの制御手法はどのように安定性と安全性を保証するか？

主な発見

• 本調査は、複雑な自律CPSにおいて完全な形式検証が難しい場合に、アーキテクチャレベルの安全対策、ランタイム検証、ランタイムアシュアランスを実用的なアプローチとして特定している。
• ニューラルネットワーク検証、到達可能性分析、学習ベースの制御をLECの安全性検証の重要領域として扱う。
• MLコンポーネントから形式的安全性特性を抽出する手段として仕様推論とSTL/Boolean式学習を論じる。
• 安全性保証の文脈で、象徴的/形式的手法とデータ駆動型MLアプローチの違いを強調している。
• 自動運転および他のCPSからの例を提示し、LECの検証とテストフレームワークを説明している。