[論文レビュー] Hybrid Physics and Deep Learning Model for Interpretable Vehicle State Prediction

Alexandra Baier, Zeyd Boukhers+1 more|arXiv (Cornell University)|Mar 11, 2021

Aerodynamics and Fluid Dynamics Research被引用数 6

ひとこと要約

本稿では、二段階の学習手順を用いたハイブリッド物理モデルと深層学習の統合により、高い精度と解釈可能性を備えた車両状態予測を提案する。長短期記憶（LSTM）ネットワークの出力を既知の範囲に制約することで、ニューラルネットワークの不確実性が有界となり、性能を犠牲にすることなく認証対応の予測が可能になる。実際の船およびマルチコプターの運動データセットを用いた評価で、環境的擾乱が存在する状況下でも有効性が検証された。

ABSTRACT

Physical motion models offer interpretable predictions for the motion of vehicles. However, some model parameters, such as those related to aero- and hydrodynamics, are expensive to measure and are often only roughly approximated reducing prediction accuracy. Recurrent neural networks achieve high prediction accuracy at low cost, as they can use cheap measurements collected during routine operation of the vehicle, but their results are hard to interpret. To precisely predict vehicle states without expensive measurements of physical parameters, we propose a hybrid approach combining deep learning and physical motion models including a novel two-phase training procedure. We achieve interpretability by restricting the output range of the deep neural network as part of the hybrid model, which limits the uncertainty introduced by the neural network to a known quantity. We have evaluated our approach for the use case of ship and quadcopter motion. The results show that our hybrid model can improve model interpretability with no decrease in accuracy compared to existing deep learning approaches.

研究の動機と目的

• 自律システムにおける車両状態予測の文脈で、解釈可能性と精度のバランスを図ること。
• 誤ったまたは測定不能なパラメータを抱える純粋な物理モデルの限界と、解釈不能な純粋な深層学習モデルの限界を克服すること。
• 物理的運動モデルとLSTMを統合するハイブリッドアーキテクチャを構築し、出力範囲の制約によって解釈可能性を維持すること。
• 非線形的または不正確な物理モデルを用いても、安定した学習が可能な、画期的な二段階の学習手順を用いてハイブリッドモデルの学習安定性を実現すること。
• 風や波などの環境的擾乱が存在する現実的状況下で、船およびマルチコプターの運動を対象としてモデルの評価を行うこと。

提案手法

• 残差ハイブリッドアーキテクチャを採用し、LSTMが物理モデルの残差誤差を予測することで、物理的力学とデータ駆動補正を統合する。
• 二段階の学習手順を導入：第一段階では物理モデルをデータ上で学習し、第二段階ではLSTMを残差誤差上で学習することで、多段予測における誤差蓄積を防ぐ。
• 解釈可能性を確保するため、LSTM出力を相対的しきい値（例：約8%）に制限し、ニューラルネットワークの寄与を既知の不確実性範囲に制限する。
• 第一原理的および回帰ベースの定式化により、非線形的で不完全なモデル（例：空力パラメータが欠落しているモデル）を含む広範な物理モデルに対応可能である。
• 時間的モデリングに長短期記憶（LSTM）ネットワークを用い、物理的状態方程式と統合することで動的整合性を確保する。
• 実データセット（船およびマルチコプター）を用いて、1秒の予測期間（100ステップ）における状態および軌道予測の指標を用いてモデル性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 物理モデルと深層学習を統合したハイブリッドモデルは、安全性が求められる車両制御において、高い予測精度を維持しながら解釈可能性を確保できるか？
• RQ2 深層ニューラルネットワークが導入する不確実性を、認証および安全性の検証を可能にする形で有界化できるか？
• RQ3 非線形的または不正確な物理モデルを用いた場合でも、二段階の学習手順がハイブリッドモデルの学習を安定化できるか？
• RQ4 風や波などの環境的擾乱が存在する状況下でも、純粋なデータ駆動モデルや純粋な物理モデルと比較して、ハイブリッドモデルは性能を維持できるか？
• RQ5 異なる車両タイプ（例：船とマルチコプター）間で、動的特性や制御入力が異なる状況において、モデルの汎用性はどの程度高いか？

主な発見

• ハイブリッドモデルは、制約なしの深層学習モデルと同等の予測精度を達成しており、特に最良のバージョン（MinQ+Qua-2P）は、マルチコプターデータセットにおいて約8%の相対的しきい値でLSTMの性能に匹敵する。
• 環境的擾乱が存在する船の運動において、純粋な物理モデル（例：QLag）を著しく上回り、純粋な深層学習ベースラインと同等またはそれ以上の性能を示した。
• 二段階の学習手順により、非線形的または不完全な物理モデルを用いた場合でも、ハイブリッドモデルの学習発散が効果的に防止され、長期間の予測期間にわたり安定した学習が可能となった。
• 出力制約機構により、DNNの寄与が既知の不確実性範囲（約8%のしきい値）に制限され、精度を犠牲にすることなく解釈可能性が保証された。
• モデルは車両タイプにわたって良好に汎用可能である：低擾乱のマルチコプター運動および高擾乱の船の運動の両方で優れた性能を示し、強靭性が確認された。
• 最小限の物理モデル（MinQ）と二次回帰（Qua）を組み合わせたハイブリッドモデルが、精度と解釈可能性のバランスを最も良く達成しており、複雑な動的特性において線形物理モデルを上回った。