[論文レビュー] Reconstruction of Ordinary Differential Equations From Time Series Data

Maxim Mai, Mark D. Shattuck+1 more|arXiv (Cornell University)|May 18, 2016

Model Reduction and Neural Networks参考文献 43被引用数 5

ひとこと要約

本稿では、スパース基底学習とスパース関数再構成を用いて、時系列データから常微分方程式（ODE）系を再構成する機械学習ベースの手法を提示する。この手法は最小二乗法よりも高い精度を達成し、十分なデータを用いることで、1次元、2次元、3次元のODE系—特にカオス的Lorenz力学—を0.1%未満の誤差で再構成でき、初期条件に敏感な系であってもリャプノフ指数などの主要な力学的特徴を保持する。

ABSTRACT

We develop a numerical method to reconstruct systems of ordinary differential equations (ODEs) from time series data without {\it a priori} knowledge of the underlying ODEs using sparse basis learning and sparse function reconstruction. We show that employing sparse representations provides more accurate ODE reconstruction compared to least-squares reconstruction techniques for a given amount of time series data. We test and validate the ODE reconstruction method on known 1D, 2D, and 3D systems of ODEs. The 1D system possesses two stable fixed points; the 2D system possesses an oscillatory fixed point with closed orbits; and the 3D system displays chaotic dynamics on a strange attractor. We determine the amount of data required to achieve an error in the reconstructed functions to less than $0.1\%$. For the reconstructed 1D and 2D systems, we are able to match the trajectories from the original ODEs even at long times. For the 3D system with chaotic dynamics, as expected, the trajectories from the original and reconstructed systems do not match at long times, but the reconstructed and original models possess similar Lyapunov exponents. Now that we have validated this ODE reconstruction method on known models, it can be employed in future studies to identify new systems of ODEs using time series data from deterministic systems for which there is no currently known ODE model.

研究の動機と目的

• 未知の微分方程式の構造を事前に知らない状態で、データ駆動型のODE系再構成手法を開発すること。
• システム力学のスパース表現を活用することで、従来の最小二乗法よりも再構成精度を向上させること。
• 固定点、極限円周、カオス的振る舞いを含む多様な力学的挙動を示す既知の1次元、2次元、3次元ODE系に対して、本手法の有効性を検証すること。
• 高精度な再構成を達成するためのデータ要件（サンプリング間隔、軌道長、軌道数）を同定すること。
• 今後の物理的・生物学的系において、実験的時系列データから未知のODEモデルを同定できるようにすること。

提案手法

• 本手法は、時系列データをスパースに表現できる基底を特定するためにスパース辞書学習を採用する。
• L1ノルム正則化回帰を用いて、学習済み基底におけるデータのスパースな展開を特定し、非ゼロ係数の数を最小化する。
• 再構成されたODE関数は、データから導出された基底関数のスパースな組み合わせとして表現され、真の力学的挙動の高精度な近似が可能になる。
• スパースコーディング技術を用いて、不定倣の連立一次方程式を解くことで、ベクトル場 f₁, f₂, f₃ を再構成する。
• 再構成されたODEの軌道と元のシステムの軌道を比較することで、再構成プロセスの妥当性を検証する。
• 再構成のロバスト性と精度を評価するため、データ量、サンプリング間隔、軌道長を変化させた実験を実施する。

実験結果

リサーチクエスチョン

• RQ1 スパース表現技術は、最小二乗法よりも時系列データからODEをより高精度に再構成できるか？
• RQ2 再構成誤差を0.1%未満に抑えるために必要な最小限の時系列データ量はどの程度か？
• RQ3 再構成されたODEは、特にカオス的領域において、元のシステムの長期的力学的挙動をどの程度正確に再現できるか？
• RQ4 初期条件に敏感な系であっても、再構成されたシステムはリャプノフ指数といった主要な力学的不変量を保持できるか？
• RQ5 固定点、極限円周、スラングアトラクタを含む複雑な力学的挙動を示す系を、どの程度正確に再構成できるか？

主な発見

• 十分な時系列データが利用可能な場合、本手法は再構成誤差が0.1%未満に抑えられ、ODE系の再構成において高い精度を示す。
• 2つの安定固定点を持つ1次元系では、長時間にわたり元の軌道を正確に再現する。
• 2次元のLotka-Volterra系では、閉じた軌道が再構成されるが、初期条件によっては、より長い軌道やより小さいサンプリング間隔を用いることで精度が向上する。
• 3次元のカオス的Lorenz系では、初期条件に敏感な性質により長期的には軌道が乖離するが、再構成されたシステムと元のシステムは類似したリャプノフ指数を共有する。
• 同じデータ量を用いた場合、最小二乗法に比べてスパース表現の活用が再構成精度を顕著に向上させる。
• 本手法は、解析的モデルが存在しない系においても、実験的時系列データから未知のODEモデルを同定可能にし、将来的な未知系の発見を可能にする。