[論文レビュー] Learning neural state-space models: do we need a state estimator?

Marco Forgione, Manas Mejari+1 more|arXiv (Cornell University)|Jun 26, 2022

Neural Networks and Applications被引用数 10

ひとこと要約

本稿は、mステップ先予測誤差最小化を用いたニューラルステートスぺースモデルの学習における状態推定器の必要性を調査する。非線形安定系ではゼロまたはランダム初期化といった単純な初期化が良好に機能するが、ピックアンドプレースマシンのような複雑で統合的ダイナミクスを示す系では、フィードフォワードやLSTMベースの高度な推定器が高精度を達成するために不可欠であり、モデル適合度を向上させ、一時的誤差を低減することが示された。

ABSTRACT

In recent years, several algorithms for system identification with neural state-space models have been introduced. Most of the proposed approaches are aimed at reducing the computational complexity of the learning problem, by splitting the optimization over short sub-sequences extracted from a longer training dataset. Different sequences are then processed simultaneously within a minibatch, taking advantage of modern parallel hardware for deep learning. An issue arising in these methods is the need to assign an initial state for each of the sub-sequences, which is required to run simulations and thus to evaluate the fitting loss. In this paper, we provide insights for calibration of neural state-space training algorithms based on extensive experimentation and analyses performed on two recognized system identification benchmarks. Particular focus is given to the choice and the role of the initial state estimation. We demonstrate that advanced initial state estimation techniques are really required to achieve high performance on certain classes of dynamical systems, while for asymptotically stable ones basic procedures such as zero or random initialization already yield competitive performance.

研究の動機と目的

• 初期状態推定戦略がニューラルステートスぺースモデルの学習性能に与える影響を調査すること。
• ニューラルステートスぺースモデルにおける高精度なシステム同定を達成するために、高度な状態推定器が必要かどうかを特定すること。
• 多様なダイナミカルシステムにおいて、ベースライン手法（ゼロ、ランダム初期化）と学習済み推定器（FF、LSTM）を比較すること。
• 推定（m_e）および適合（m_f）のシーケンス長というハイパーパramータと推定器タイプの相互作用がモデル適合度に与える影響を分析すること。
• 実践者による最適な状態初期化戦略の選定を支援するための実証的知見とオープンソースツールを提供すること。

提案手法

• 著者らは、長時間の訓練軌道から抽出した部分シーケンスに対して、mステップ先予測誤差最小化を用いる。
• ゼロ初期化、ランダム初期化、および学習済み推定器（フィードフォワードおよびLSTMベース）の複数の初期状態推定戦略を比較する。
• モデルは、状態推定器のパラメータを動的パラメータと同時に最適化する形でエンドツーエンドで訓練される。
• 広範な実験が2つのベンチマーク（ウィエナー＝ハンマーシュタイン系およびピックアンドプレースマシン）で実施された。
• 性能評価にはFITインデックスが用いられ、推定シーケンス長（m_e, m_f）と推定器タイプを変化させたアブレーションスタディが実施された。
• ハイパーパramータ設定の下でのFITインデックスの統計的分析と可視化が行われ、結論が導かれた。

実験結果

リサーチクエスチョン

• RQ1 初期状態推定戦略の選択が、ニューラルステートスぺースモデルの性能に顕著な影響を与えるか？
• RQ2 ピックアンドプレースマシンのような統合的ダイナミクスを示す系では、高度な状態推定器が必須であるか？
• RQ3 推定（m_e）および適合（m_f）のシーケンス長が、異なる推定器タイプとどのように相互作用するか？
• RQ4 ゼロまたはランダム初期化といった単純な初期化戦略が、不安定または複雑な系でも競争力のある性能を達成できるか？
• RQ5 初期状態誤差が長期間にわたりどのように伝搬し、長期予測精度を低下させるか？

主な発見

• ウィエナー＝ハンマーシュタインベンチマークでは、ゼロおよびランダム初期状態推定が競争力のある性能を示し、漸近的安定系では高度な推定器が必須ではないことを示している。
• 統合的ダイナミクスを有するピックアンドプレースマシンベンチマークでは、ゼロおよびランダム初期化が学習済み推定器に比べて顕著に低いFITインデックスと大きな一時的誤差を示した。
• フィードフォワード（FF）およびLSTMベースの状態推定器は、短い推定シーケンス（m_e = 10）でも高いFITインデックスを達成しており、ロバストネスと高速収束性を示している。
• ゼロ初期化で訓練されたモデルは、真の軌道と一致するまで約100時間ステップを要しており、統合的系における初期状態誤差の悪影響を強調している。
• ベースライン推定器では推定シーケンス長（m_e）が長くなるほどFITインデックスが向上するが、複雑な系では学習済み推定器の性能に追いつかない。
• 本研究は、統合的系では初期状態推定誤差が時間経過とともに伝搬され、持続的予測誤差を引き起こすことを確認しており、こうした状況では専用の状態推定が不可欠であることを裏付けた。