[論文レビュー] The Safety Filter: A Unified View of Safety-Critical Control in Autonomous Systems

Kai–Chieh Hsu, Haimin Hu+1 more|arXiv (Cornell University)|Sep 11, 2023

Fault Detection and Control SystemsEngineering被引用数 3

ひとこと要約

本論文は、制御バリア関数、モデル予測制御、学習された証明書といった多様な安全フィルタ手法の間で共通するモジュラー構造を特定することにより、自律システムにおける安全制御の統一的理論的枠組みを提案する。Universal Safety Filter Theorem を導入し、これらの手法を分析・統合するための証明可能で正しい基盤を提供することで、学習ベースおよびモデルベースの制御システムにおけるスケーラブルで、頑健かつ効率的な安全確保を可能にする。

ABSTRACT

Recent years have seen significant progress in the realm of robot autonomy, accompanied by the expanding reach of robotic technologies. However, the emergence of new deployment domains brings unprecedented challenges in ensuring safe operation of these systems, which remains as crucial as ever. While traditional model-based safe control methods struggle with generalizability and scalability, emerging data-driven approaches tend to lack well-understood guarantees, which can result in unpredictable catastrophic failures. Successful deployment of the next generation of autonomous robots will require integrating the strengths of both paradigms. This article provides a review of safety filter approaches, highlighting important connections between existing techniques and proposing a unified technical framework to understand, compare, and combine them. The new unified view exposes a shared modular structure across a range of seemingly disparate safety filter classes and naturally suggests directions for future progress towards more scalable synthesis, robust monitoring, and efficient intervention.

研究の動機と目的

• 安全制御の文献における断片化を是正し、共通の理論的枠組みの下で多様な安全フィルタ技術を統合すること。
• モデルベースおよびデータ駆動型アプローチを含む、既存の安全フィルタ手法の系統的比較、統合、合成を可能にすること。
• 将来の研究におけるスケーラビリティ、ランタイムモニタリング、干渉効率に関する主な課題を同定すること。
• 伝統的なモデルベースの安全手法と、形式的保証を欠く新しいデータ駆動型技術との間のギャップを埋めること。
• モジュラーかつ合成可能なフレームワークを通じて、学習と証明可能な安全の統合のためのロードマップを提供すること。

提案手法

• 任意の基本方策からの不安全な行動を上書きする安全フィルタとしての普遍的安全フィルタフレームワークを導入する。
• 不確実性下での安全を維持するかをチェックするランタイム安全検証メカニズムを用いて安全フィルタを定義する。
• 安全フィルタが時間的に再帰的な安全条件を満たす場合に限り、証明可能に正しい安全フィルタであることを特徴付けるUniversal Safety Filter Theoremを提唱する。
• HJ（ハミルトニアン・ジャコビ）到達性フレームワークを用いて、暗黙の制御バリア関数としての安全価値関数を定義する。
• ロールアウトベースの監視と統計的境界を用いたランタイム認証と、オフラインでのニューラル方策学習を統合する。
• 敵対的強化学習を用いて安全制御と最悪ケースの摂動方策を同時に学習させ、イサース方程式の近似解法を通じて保守的だが効果的な安全確保を実現する。

実験結果

リサーチクエスチョン

• RQ1 制御バリア関数から学習された証明書に至るまで多様な安全フィルタ手法を、単一の理論的枠組みの下に統合する方法は何か？
• RQ2 実装の詳細にかかわらず、証明可能に正しい安全フィルタが共有する共通の構造的および数学的性質は何か？
• RQ3 システムの複雑さや状態次元数が増加するに従い、効率的にスケーリングできる安全フィルタはどのように設計できるか？
• RQ4 学習ベースの方策を、性能や安全保証を損なわずに形式的検証技術と安全に統合する方法は何か？
• RQ5 相互作用的な状況において意味のある、非過剰な安全保証を可能にするために、環境ダイナミクスおよびエージェント行動に必要な最小限の仮定は何か？

主な発見

• Universal Safety Filter Theorem は、安全フィルタが証明可能に正しいための必要十分条件を提供し、多様な安全フィルタクラスを単一の形式的基準で統合する。
• HJ到達性に基づく安全フィルタは、暗黙の制御バリア関数として解釈可能であり、滑らかな干渉メカニズムを用いて形式的保証を伴う安全確保を可能にする。
• 敵対的強化学習により、安全制御と最悪ケースの摂動モデルを同時に学習可能となり、イサース方程式の近似解法を通じて、より頑健な安全確保が実現される。
• ロールアウトベースの監視によるランタイム認証により、学習されたフォールバック方策を用いても確率的保証が得られるが、若干の保守的特性を伴う。
• 安全フィルタのモジュラー構造により、学習された証明書とモデル予測制御を組み合わせた複数の安全メカニズムの効率的合成が可能になる。
• 本フレームワークは、安全と性能の分離が、実用的であるだけでなく、基盤的であることを明らかにし、基本方策が劣化している場合や学習された場合でも安全な運用を可能にする。