[论文解读] Learning neural state-space models: do we need a state estimator?

Marco Forgione, Manas Mejari+1 more|arXiv (Cornell University)|Jun 26, 2022

Neural Networks and Applications被引用 10

一句话总结

本文通過 m 步預測誤差最小化研究了在訓練神經狀態空間模型時狀態估計器的必要性。結果表明，雖然對於漸近穩定系統而言，零初始化或隨機初始化等簡單策略表現良好，但在複雜的整合動力系統（如抓放機器人）上，先進的估計器（如前饋或基於 LSTM 的網絡）對實現高性能量極為關鍵，顯著提升模型擬合度並減少暫態誤差。

ABSTRACT

In recent years, several algorithms for system identification with neural state-space models have been introduced. Most of the proposed approaches are aimed at reducing the computational complexity of the learning problem, by splitting the optimization over short sub-sequences extracted from a longer training dataset. Different sequences are then processed simultaneously within a minibatch, taking advantage of modern parallel hardware for deep learning. An issue arising in these methods is the need to assign an initial state for each of the sub-sequences, which is required to run simulations and thus to evaluate the fitting loss. In this paper, we provide insights for calibration of neural state-space training algorithms based on extensive experimentation and analyses performed on two recognized system identification benchmarks. Particular focus is given to the choice and the role of the initial state estimation. We demonstrate that advanced initial state estimation techniques are really required to achieve high performance on certain classes of dynamical systems, while for asymptotically stable ones basic procedures such as zero or random initialization already yield competitive performance.

研究动机与目标

• 探討初始狀態估計策略對神經狀態空間模型訓練性能的影響。
• 確定在神經狀態空間模型中，高保真度系統識別是否需要先進的狀態估計器。
• 在多種動力系統上，比較基線方法（零初始化、隨機初始化）與學習型估計器（前饋、LSTM）的表現。
• 分析序列長度超參數（m_e, m_f）與估計器類型之間的互動對模型擬合的影響。
• 提供實證洞察與開源工具，協助實務工作者選擇最佳的初始狀態設定策略。

提出的方法

• 作者使用從長訓練軌跡中提取的子序列，進行 m 步預測誤差最小化。
• 比較多種初始狀態估計策略：零初始化、隨機初始化，以及學習型估計器（前饋與基於 LSTM 的方法）。
• 模型以端到端方式訓練，狀態估計器參數與動力系統參數共同優化。
• 在兩個基準測試集上進行廣泛實驗：Wiener-Hammerstein 系統與抓放機器人。
• 使用 FIT 指數評估性能，並透過消融實驗調整序列長度（m_e, m_f）與估計器類型。
• 利用超參數配置下的 FIT 指數統計分析與可視化，得出結論。

实验结果

研究问题

• RQ1 初始狀態估計策略的選擇是否顯著影響神經狀態空間模型的性能？
• RQ2 對於具有整合動力特性的系統（如抓放機器人），是否必須使用先進的狀態估計器？
• RQ3 估計序列長度（m_e）與擬合序列長度（m_f）如何與不同類型的估計器產生互動？
• RQ4 簡單初始化策略（如零初始化或隨機初始化）是否能在不穩定或複雜系統上實現競爭性表現？
• RQ5 初始狀態誤差在多大程度上會傳播並降低長期預測精度？

主要发现

• 在 Wiener-Hammerstein 基準上，零初始化與隨機初始化均能取得競爭性表現，表明對漸近穩定系統而言，先進估計器並非絕對必要。
• 在具有整合動力特性的抓放機器人基準上，零初始化與隨機初始化的 FIT 指數顯著較低，且暫態誤差更大，遠不如學習型估計器。
• 前饋（FF）與基於 LSTM 的狀態估計器即使在短估計序列（m_e = 10）下也能達到高 FIT 指數，展現出強健性與快速收斂至正確初始狀態的能力。
• 使用零初始化訓練的模型需約 100 個時間步才能與真實軌跡對齊，突顯了在整合系統中初始狀態誤差的破壞性影響。
• 對於基線估計器，FIT 指數隨估計序列長度（m_e）增加而提升，但其改進程度仍不足以與複雜系統上學習型估計器的表現比擬。
• 本研究確認，在整合系統中，初始狀態估計誤差會隨時間傳播，導致持續的預測誤差，從而證實了在這些場景中專用狀態估計的必要性。