[論文レビュー] Architecting Dependable Learning-enabled Autonomous Systems: A Survey

Chih‐Hong Cheng, Dhiraj Gulati+1 more|arXiv (Cornell University)|Feb 27, 2019

Adversarial Robustness in Machine Learning参考文献 62被引用数 4

ひとこと要約

本サーベイは、自動運転を焦点として、信頼性の高い学習駆動型自律システムを構築するための体系的なアーキテクチャフレームワークを提案する。多様なリダンドンシー、情報統合、ランタイムモニタリング、信頼性の高い機械学習技術（不確実性推定、解釈可能なCNN、ロバスト最適化など）を統合し、システムの信頼性を向上させる。主な貢献は、既存のアプローチを分類し、検証、適応的統合、解釈可能なモニタリングにおける重要な研究課題を特定することにある。

ABSTRACT

We provide a summary over architectural approaches that can be used to construct dependable learning-enabled autonomous systems, with a focus on automated driving. We consider three technology pillars for architecting dependable autonomy, namely diverse redundancy, information fusion, and runtime monitoring. For learning-enabled components, we additionally summarize recent architectural approaches to increase the dependability beyond standard convolutional neural networks. We conclude the study with a list of promising research directions addressing the challenges of existing approaches.

研究の動機と目的

• 高名な自律走行車事故に続く、学習駆動型自律システムにおける信頼性の高いアーキテクチャの必要性に対応する。
• 自動運転における信頼性のためのアーキテクチャ的アプローチを体系的に分類し、4つの柱に焦点を当てる：多様なリダンドンシー、情報統合、ランタイムモニタリング、信頼性の高い機械学習。
• 既存の信頼性確保技術と、自律システム向けの整合的な参照アーキテクチャへの統合のギャップを埋める。
• 検証、統合の忠実度、モニタの解釈可能性に関する課題を強調し、今後の研究を導く。
• 研究者および実務家がより安全で信頼性の高い自動運転システムを構築するための体系的基盤を提供する。

提案手法

• アーキテクチャ的アプローチを、多様なリダンドンシー、情報統合、ランタイムモニタリング、信頼性の高い機械学習の4つの主要な柱に分類する。
• 同じ機能的タスクに対して、異なるアルゴリズム（例：ステレオビジョン対LiDAR、ルールベース対機械学習ベースの予測）を導入することで、共通モード障害を回避する多様なリダンドンシーを実装する。
• 異種センサーからのデータを用いて、カルマンフィルターや適応的統合などの情報統合技術を適用し、意思決定の正確性と耐障害性を向上させる。
• トレーニングデータの分布からの逸脱の測定や仕様ベースのチェックを用いて、MLコンponentsにおける異常を検出するランタイムモニタリングを実装する。
• モンテカルロドロップアウトによる不確実性推定、局所的かつクラス固有のニューロン活性化を持つ解釈可能なCNN、敵対的訓練による証明可能にロバストなニューラルネットワークを含む、信頼性の高い機械学習技術を統合する。
• モニタから統合プロセスへのフィードバックループを提案することで、不確実性下での適応的かつレジリエントな意思決定を可能にする。

実験結果

リサーチクエスチョン

• RQ1 自動運転システムにおける異なるアルゴリズム実装間の共通モード障害を防ぐために、多様なリダンドンシーを体系的に設計する方法は何か？
• RQ2 非ガウス分布ノイズやモデルの不正確さ下で、現在の情報統合技術にどのような限界があり、センサ障害に適応可能な統合をどのように実現できるか？
• RQ3 ランタイムモニタは、既知の異常と未知の異常の両方を高い検出率と低い計算負荷で効率的に検出するようにどのように設計できるか？
• RQ4 障害発生頻度、影響度、制御可能性に基づいて、ランタイムモニタの仕様の優先順位を決定する基準は何か？
• RQ5 ランタイムモニタリングをランタイム強制に拡張することで、リアルタイムで不安全な行動を積極的に是正または防止することは可能か？

主な発見

• 多様なリダンドンシーは、認識、予測、計画の各タスクに異なるアルゴリズム（例：ステレオビジョン、LiDAR、ルールベース、機械学習ベース）を用いることで、共通障害モードのリスクを低減し、システムのレジリエンスを著しく向上させる。
• カルマンフィルターや適応的統合などの情報統合技術は意思決定の正確性を向上させるが、非ガウス分布ノイズや剛性のある統合アーキテクチャ下では性能が低下するため、ランタイムモニタからのフィードバックが不可欠である。
• モンテカルロドロップアウトは、深層ニューラルネットワークにおける不確実性推定の実用的手段を提供し、100個のドロップアウトネットワークのうち10%が逸脱する場合に90%の信頼区間を達成可能である。
• 解釈可能なCNNは、特定の物体カテゴリおよび空間的位置でのみニューロンが活性化するようにすることで、モデルの透明性を向上させ、人間が読める意思決定ツリーの構築を可能にする。
• 敵対的最適化による訓練を経た証明可能にロバストなニューラルネットワークは、トレーニングデータの有界近傍で一貫した挙動を示し、入力の摂動に対して耐性を高める。
• 解釈可能なルール（例：「物体は現実的に不自然に大きくはならない」）の統合や、未知の未知を検出するための機械学習技術の活用により、ランタイムモニタリングを強化できるが、これは依然として未解決の課題である。