[論文レビュー] BarrierNet: A Safety-Guaranteed Layer for Neural Networks

Wei Xiao, Ramin Hasani+2 more|arXiv (Cornell University)|Nov 22, 2021

Adversarial Robustness in Machine Learning参考文献 43被引用数 7

ひとこと要約

BarrierNetは、環境依存の学習可能なパrameterを備えた柔ららかで適応的な高次制御バリア関数（HOCBF）を用いて、ニューラルネットワークコントローラーのための微分可能でエンド・ツー・エンドで学習可能な安全層を導入する。HOCBFを微分可能かつ学習可能な二次計画問題（QP）に埋め込むことで、従来のCBFの過剰な保守性を低減しながら安全を保証し、自律走行や交通合流といったタスクにおいて勾配降下法による有効な学習を可能にする。

ABSTRACT

This paper introduces differentiable higher-order control barrier functions (CBF) that are end-to-end trainable together with learning systems. CBFs are usually overly conservative, while guaranteeing safety. Here, we address their conservativeness by softening their definitions using environmental dependencies without loosing safety guarantees, and embed them into differentiable quadratic programs. These novel safety layers, termed a BarrierNet, can be used in conjunction with any neural network-based controller, and can be trained by gradient descent. BarrierNet allows the safety constraints of a neural controller be adaptable to changing environments. We evaluate them on a series of control problems such as traffic merging and robot navigations in 2D and 3D space, and demonstrate their effectiveness compared to state-of-the-art approaches.

研究の動機と目的

• 不確実性や動的環境における従来の制御バリア関数（CBF）の過剰な保守性を解消すること。
• CBFを微分可能かつ学習可能にすることで、安全保証付きでニューラルネットワークコントローラーのエンド・ツー・エンド学習を可能にすること。
• バリア関数内の学習可能なパrameterを通じて環境変化に適応するモジュラーで解釈可能な安全層を開発すること。
• 実世界の制御タスクにおいて、安全を維持しながらコントローラーの性能と適応性を向上させられることを実証すること。

提案手法

• クラス-𝐾関数を置き換え、環境依存の学習可能なペナルティ関数 $ p_i(m{z}) $ を用いた、新しい微分可能なHOCBF定式化を提案。硬い制約を緩和しながらも安全保証を失わない。
• HOCBF制約を微分可能かつバックプロパゲーション可能な二次計画問題（QP）に埋め込み、システム全体の勾配ベース学習を可能にする。
• 観測値 $ m{z} $ と上流のニューラルネットワーク出力を入力とし、QP最適化により安全な制御入力を出力する、学習可能な安全層—BarrierNetを導入。
• 安全制約を満たしつつ、上流ネットワークの参照制御入力からの逸脱を最小化する損失関数を用い、共同学習を可能にする。
• バリア関数 $ b(m{x}) $ の高次微分 $ L_f b(m{x}) $, $ L_f^2 b(m{x}) $, および $ L_g L_f b(m{x}) $ を用いて安全制約を定義。
• ペナルティ関数 $ p_1(m{z}), p_2(m{z}) $ をバックプロパゲーションにより学習させ、環境の文脈に応じた安全マージンの適応的調整を可能にする。

実験結果

リサーチクエスチョン

• RQ1 不確実性や動的環境において、安全保証を維持したまま制御バリア関数を過剰に保守的でなくできるか？
• RQ2 HOCBFを微分可能かつ学習可能なコンponentsに再定式化することで、深層ニューラルネットワークとのエンド・ツー・エンド学習が可能になるか？
• RQ3 バリア関数のデータ駆動的パrameter化を通じて、安全層が環境条件の変化に適応できるか？
• RQ4 提案されたBarrierNetは、ナビゲーションおよび合流タスクにおいて、標準的なニューラルコントローラーやベースラインCBF手法に比べ、安全性和パフォーマンスで優れているか？

主な発見

• BarrierNetは2次元および3次元のロボットナビゲーションタスクにおいて、図12bの安全な軌道を示すことで、衝突回避を成功裏に保証した。一方、安全制約なしの標準的な全結合（FC）ネットワークは衝突を引き起こした。
• BarrierNetでは、時間経過に伴いバリア関数値 $ b(m{x}) $ が非負のままであることが確認され、安全を裏付けた。一方、FCベースラインでは、$ b(m{x}) $ がゼロ未満に低下し、制約違反を示した。
• BarrierNetが学習したペナルティ関数 $ p_1(m{z}) $ および $ p_2(m{z}) $ は環境入力に応じて変化し、障害物への接近度に応じた適応的で柔軟な安全マージンを示した。
• 制御入力におけるわずかな追従誤差が存在しても、BarrierNetコントローラーはHOCBFコントローラーの真値軌道に近く、安全な挙動の有効な学習を示した。
• 図11の損失関数およびペナルティ関数のプロファイルの収束から、BarrierNetの勾配降下法によるエンド・ツー・エンド学習が実行可能で安定していることが示された。
• 固定のクラス-𝐾関数に代えて、学習可能な環境依存項を導入することで、HOCBFの保守性を低減し、安全を損なわず、コントローラー性能を向上させた。