[論文レビュー] Multi-Objective Physics-Guided Recurrent Neural Networks for Identifying Non-Autonomous Dynamical Systems

Oliver Schön, Ricarda‐Samantha Götte+1 more|arXiv (Cornell University)|Apr 27, 2022

Model Reduction and Neural Networks参考文献 19被引用数 9

ひとこと要約

本論文は、制御下の非同次的力学的システムを同定するため、物理的ODEモデルと再帰的ニューラルネットワーク（RNN）を組み合わせたマルチオブジェクティブ物理誘導型再帰的ニューラルネットワーク（MOPGRNN）を提案する。物理的妥当性（例：エネルギー保存則）を強制するマルチオブジェクティブ最適化により訓練することで、完全にデータ駆動型のモデルや、元の物理モデルですら最大46%優れた精度を達成した。

ABSTRACT

While trade-offs between modeling effort and model accuracy remain a major concern with system identification, resorting to data-driven methods often leads to a complete disregard for physical plausibility. To address this issue, we propose a physics-guided hybrid approach for modeling non-autonomous systems under control. Starting from a traditional physics-based model, this is extended by a recurrent neural network and trained using a sophisticated multi-objective strategy yielding physically plausible models. While purely data-driven methods fail to produce satisfying results, experiments conducted on real data reveal substantial accuracy improvements by our approach compared to a physics-based model.

研究の動機と目的

• 非同次的力学的システムのシステム同定において、モデリング作業と精度のトレードオフを扱う。
• 物理的妥当性に欠け、安全性が求められる応用分野で失敗する傾向がある完全にデータ駆動型モデルの限界を克服する。
• 物理ベースの制約をデータ駆動型フレームワークに統合し、学習されたモデルが物理的に妥当で一般化可能であることを保証する。
• 物理的知識とニューラルネットワークの柔軟性を組み合わせることで、限られた訓練データでもモデルの精度と耐性を向上させる。
• 訓練、検証、テストの目的関数を明確に分離した訓練戦略を構築し、微分可能および非微分可能な損失関数を含む。

提案手法

• 物理的ODEモデルと再帰的ニューラルネットワーク（RNN）を組み合わせて、物理誘導型再帰的ニューラルネットワーク（PGRNN）を構築し、状態ダイナミクスと出力をモデル化する。
• 予測誤差を最小化するとともに物理的制約（例：エネルギー保存則）を強制するマルチオブジェクティブ最適化問題を定式化する。
• システムのエネルギー動的特性に基づく物理的制約を定義する：∆EM,t = J¨ˆϕt ˙ˆϕt + mga ˙ˆϕt sin ˆϕt + d ˙ˆϕ2t + MF,t ˙ˆϕt −4 ˙ˆϕtut は、モデルが満たすべきものである。
• 回帰損失（予測精度のため）と制約違反損失（物理的妥当性のため）を含むハイブリッド損失関数を用いる。
• 実データにおける直接的な角度測定値から、測定されていない状態微分（例：角速度および角加速度）を数値微分で推定する。
• 訓練、検証、テストのための別々の目的関数を用いてMOPGRNNを訓練し、堅牢な一般化と改善された条件付けを実現する。

実験結果

リサーチクエスチョン

• RQ1 物理的ODEとRNNを統合したハイブリッドモデルは、完全にデータ駆動型モデルと比較して、非同次的力学的システムの同定精度を向上させることができるか？
• RQ2 エネルギー保存則などの物理的制約を強制することで、学習されたモデルの妥当性と耐性はどの程度向上するか？
• RQ3 限られた訓練データ下で、非線形ダイナミクス（例：摩擦）が存在する場合、MOPGRNNはどのように性能を発揮するか？
• RQ4 マルチオブジェクティブ訓練戦略は、実世界の制御システムにおいて、予測精度と物理的一致性のバランスを効果的にとれるか？
• RQ5 物理誘導型制約の統合により、実データのシナリオにおいて過学習のリスクが低下し、一般化性能が向上するか？

主な発見

• MOPGRNNは、限られた訓練データでも、ゴルフロボットシステムにおいて、完全にデータ駆動型のRNNと比較して最大46%のシミュレーション誤差低減を達成した。
• 15件の訓練サンプルでのみ、MOPGRNNはシミュレーション誤差0.15 s（平均 ± 2σ）を達成し、物理モデル（0.35 s）およびRNN（0.35 s）を大きく上回った。
• 正弦波励起データの組み込みにより、RNNとMOPGRNNの性能差が拡大し、MOPGRNNは物理モデルに対して59%の改善を維持した。
• MOPGRNNは、長い予測予測期間にわたり、低レベルの制約違反（絶対値∆ ≤ 0.1 J）を示し、物理的妥当性が非常に高いことを示した。
• 訓練データの増加に伴い、MOPGRNNは物理モデル（Mphy）と比較して38%のシミュレーション誤差低減を達成し、標準偏差も低く保った。
• 極めて少ない訓練データでも、MOPGRNNは顕著な性能低下を示さず、データ効率性と耐性の高さを示した。