[論文レビュー] Optimal time delay embedding for nonlinear time series modeling

Michael Small|ArXiv.org|Dec 5, 2003

Neural Networks and Applications参考文献 3被引用数 6

ひとこと要約

本論文は、局所定数モデルにおける予測誤差を最小化することにより、非一様時間遅れ埋め込みの最適な選定を計算的に効率的に行う手法を提案する。この手法は、標準的な一様埋め込みと比較して、より小さな埋め込み窓、より低い予測誤差、およびより正確な長期的ダイナミクス再構成を実現し、Rössler、Lorenz、sunspots、心室細動系を含む、シミュレートされたおよび実験的データセットにおいて検証された。

ABSTRACT

When building linear or nonlinear models one is faced with the problem of selecting the best set of variable with which to predict the future dynamics. In nonlinear time series analysis the problem is to select the correct time delays in the time delay embedding. We propose a new technique which can quantify the suitability of a particular set of variables and we suggests a computationally efficient scheme to determine the best non-uniform time delay embedding for modeling of time series. Our results are based on the assumption that, in general, the variables which give the best local constant model will also give the best nonlinear model. In a wide variety of experimental and simulated systems we find that this method produces dynamics that are more realistic and predictions that are more accurate than standard uniform embeddings.

研究の動機と目的

• 非線形時系列モデリングにおける最適な時間遅れ埋め込みの選定に関する一般的な手法の欠如に対処すること。
• 一様時間遅れ埋め込みを非一様なものに置き換えることで、予測精度とダイナミクス再構成を向上させること。
• 局所定数モデルの予測誤差に基づく、定量的かつ計算的に効率的な埋め込み戦略の評価基準を確立すること。
• より少ない、より関連性の高い時間遅れを用いて、複雑な非線形ダイナミクスをより良くモデリングすること。

提案手法

• 本手法は、候補となる時間遅れ集合の予測誤差を局所定数モデルで推定し、非線形モデルの品質の代理指標として用いる。
• モデルの複雑さと予測精度のバランスを取るために記述長基準を適用し、コンactかつ効果的な埋め込みを優遇する。
• 高次元の非一様遅れ組み合わせの探索を、遺伝的アルゴリズムとサブサンプリングを組み合わせて、計算的に効率的に行う。
• 埋め込み戦略は、非一様ラグ {ℓ₁, ..., ℓₖ} と埋め込み窓 d_w によって定義され、ℓₖ ≤ d_w を満たす。
• 局所定数モデルの平均予測誤差を最小化する埋め込みを優先する。これは、より良い局所的予測がより良いグローバルな非線形モデリングを意味すると仮定している。
• 最小記述長を用いてラジアル基底関数モデルへの拡張を実施し、頑健な非線形予測を可能にする。

実験結果

リサーチクエスチョン

• RQ1 非線形時系列モデリングにおいて、予測誤差を最小化する最適な非一様時間遅れの集合は何か？
• RQ2 非一様埋め込みは、システムの真のダイナミクスを再構成する点で、標準的一様埋め込みと比べてどのように異なるか？
• RQ3 計算的に効率的なアルゴリズムは、多様な力学系において優れた埋め込み戦略を信頼性高く同定できるか？
• RQ4 非一様埋め込みは、シミュレートおよび実験的時系列において、長期的ダイナミックな挙動をどの程度改善するか？
• RQ5 局所定数モデルの予測誤差は、より複雑な非線形モデルの性能を信頼できる代理指標として機能するか？

主な発見

• 非一様埋め込みは、ノイズが混入した時系列や短い時系列を含む、すべてのテストデータセットで一様埋め込みよりも低い平均予測誤差を達成した。
• 非一様埋め込み戦略は、真のデータに近い相関次元を持つモデルを生成し、より良い定性的なダイナミクス再構成を示した。
• ノイズを含むLorenz系において、非一様埋め込みは予測誤差を低減し、一様アプローチよりもモデルの安定性が向上した。
• 本手法は、dₑτ よりも小さい埋め込み窓（例：Lorenzでは d_w = 10、dₑτ = 215）を同定し、次元削減を顕著に示した。
• 30回の繰り返し試行において、非一様埋め込み戦略は動的挙動を常に捉えることができたが、一様戦略はsunspotsのダイナミクス再構成において高い分散と頻繁な失敗を示した。
• 非一様埋め込みに基づいて訓練されたラジアル基底関数モデルは、平均的なモデルサイズが小さく、アウトオブサンプル予測精度が優れており、改善された効率性と性能を確認した。