[論文レビュー] Generalized Teacher Forcing for Learning Chaotic Dynamics

Florian Heß, Zahra Monfared+2 more|arXiv (Cornell University)|Jun 7, 2023

Neural Networks and Applications被引用数 7

ひとこと要約

論文は Generalized Teacher Forcing（GTF）を導入し、RNNを混沌としたダイナミクスの学習中の勾配を制限できるようにして、浅い PLRNN による低次元 Reconstruction を正確に行い、実データに対して最先端手法を上回る。

ABSTRACT

Chaotic dynamical systems (DS) are ubiquitous in nature and society. Often we are interested in reconstructing such systems from observed time series for prediction or mechanistic insight, where by reconstruction we mean learning geometrical and invariant temporal properties of the system in question (like attractors). However, training reconstruction algorithms like recurrent neural networks (RNNs) on such systems by gradient-descent based techniques faces severe challenges. This is mainly due to exploding gradients caused by the exponential divergence of trajectories in chaotic systems. Moreover, for (scientific) interpretability we wish to have as low dimensional reconstructions as possible, preferably in a model which is mathematically tractable. Here we report that a surprisingly simple modification of teacher forcing leads to provably strictly all-time bounded gradients in training on chaotic systems, and, when paired with a simple architectural rearrangement of a tractable RNN design, piecewise-linear RNNs (PLRNNs), allows for faithful reconstruction in spaces of at most the dimensionality of the observed system. We show on several DS that with these amendments we can reconstruct DS better than current SOTA algorithms, in much lower dimensions. Performance differences were particularly compelling on real world data with which most other methods severely struggled. This work thus led to a simple yet powerful DS reconstruction algorithm which is highly interpretable at the same time.

研究の動機と目的

• 時系列データから混沌系の再構成を行い解釈性を保つことを動機づける。
• Lyapunov 指数の知識を要さずに、混沌系の RNN 学習における勾配爆発の問題に対処する。
• GTF と浅い PLRNN アーキテクチャを提案し、信頼性の高い低次元再構成を可能にする。
• simulated および real-world データセットの両方で SOTA 手法より優れた性能を示す。

提案手法

• Generalized Teacher Forcing（GTF）を導入： z_t = F_theta(z_{t-1}^tilde)、 z_t^tilde = (1-α) z_{t-1}^tilde + α z̄_{t-1} によりヤコビ行列積を制限。
• 混沌ダイナミクスに対して ∂z_t/∂z_r のヤコビ積が界限内に保たれる条件を導出、最適 α* = 1 - 1/σ̃_max を含む。
• 1-隠れ層の ReLU ネットワーク構造を持つ shPLRNN（shPLRNN）アーキテクチャを採用。これを dendPLRNN に再表現可能で、計算的に扱いやすい。
• BPTT と GTF（aGTF の組み合わせ）で学習を行い、σ̃_max の完全な知識なしで訓練中に α を適応的に設定するスキームを適用。
• データ由来状態のヤコビ情報に基づく α の適応戦略を用い、訓練中に α をアニールして安定性を維持。
• 固定 GTF と適応 GTF（aGTF）を評価し、疎な TF、LSTM-TBPTT、RC、SINDy、Neural ODEs、LEM と比較。

実験結果

リサーチクエスチョン

• RQ1 Generalized Teacher Forcing（GTF）は、長期ホライズンでの混沌時系列の RNN 学習における損失勾配をいかにして制限できるか？
• RQ2 aGTF を用いた浅い PLRNN は、低次元潜在空間（観測系の次元以下）で混沌ダイナミクスを忠実に再構成できるか？
• RQ3 GTF + 浅い PLRNN は、 simulated および real-world データに対して、幾何学的および時系列忠実度の点で SOTA 手法と比較してどうか？
• RQ4 α の選択・適応など、システムのLyapunov 指数の事前知識なしに安定訓練を可能にする実践的指針は？
• RQ5 得られたモデルは、 reconstructed dynamics の不変特性（アトラクター、固定点、サイクル）の解釈と解析に対して実用的かつ解釈可能か？

主な発見

Dataset	Method	D_stsp	D_H	PE(20)	dim	|θ|
ECG (5d)	shPLRNN + GTF	4.3 ± 0.6	0.34 ± 0.02	(2.4 ± 0.1)·10^{-3}	5	2785
ECG (5d)	shPLRNN + aGTF	4.5 ± 0.4	0.34 ± 0.02	(2.4 ± 0.2)·10^{-3}	5	2785
ECG (5d)	shPLRNN + STF	7.1 ± 1.8	0.38 ± 0.03	(5 ± 2)·10^{-3}	5	2785
ECG (5d)	dendPLRNN + id-TF	5.8 ± 0.6	0.37 ± 0.06	(4.0 ± 0.4)·10^{-3}	35	3245
ECG (5d)	RC	5.3 ± 1.7	0.39 ± 0.05	(4 ± 1)·10^{-3}	1000	5000
ECG (5d)	LSTM-TBPTT	15.2 ± 0.5	0.73 ± 0.02	(2.5 ± 0.5)·10^{-2}	70	5920
ECG (5d)	SINDy	diverging	diverging	diverging	5	3960
ECG (5d)	N-ODE	12.2 ± 0.7	0.70 ± 0.03	(4.1 ± 0.1)·10^{-1}	5	4955

• GTF は混沌ダイナミクスの学習において損失勾配を厳密に界限化し、安定した最適化を可能にする。
• 浅い PLRNN は観測系の次元と同等以下の空間で混沌ダイナミクスを再構成でき、解釈可能性と取り扱い易さを保つ。
• 実データ（ECG, EEG）において、GTF を用いた shPLRNN は複数の SOTA 手法より幾何学と時系列忠実度の点で大幅に優れる。
• LSTM-TBPTT、RC、SINDy、Neural ODEs、LEM と比較して、shPLRNN with GTF は D_stsp および D_H が低く、予測誤差は競争力をもちつつ潜在変数数を大幅に削減。
• 適応型 GTF（aGTF）は σ̃_max の正確な推定を要求せず堅牢な性能を提供し、アニールスケジュールが訓練安定性を改善する。