[論文レビュー] Data-driven Prediction of General Hamiltonian Dynamics via Learning Exactly-Symplectic Maps

Renyi Chen, Molei Tao|arXiv (Cornell University)|Mar 9, 2021

Model Reduction and Neural Networks参考文献 46被引用数 19

ひとこと要約

本稿では、生成関数をパラメータ化するニューラルネットワークを用いて、正確にシンプレクティック写像を学習するデータ駆動型手法GFNNを提案する。幾何的構造の保存を保証する。ベクトル場ベースの手法とは異なり、GFNNは進化写像を直接モデル化し、指数的蓄積ではなく線形のグローバル誤差増加を達成する。可積分系およびカオス的ハミルトニアン系において優れた精度を示す。

ABSTRACT

We consider the learning and prediction of nonlinear time series generated by a latent symplectic map. A special case is (not necessarily separable) Hamiltonian systems, whose solution flows give such symplectic maps. For this special case, both generic approaches based on learning the vector field of the latent ODE and specialized approaches based on learning the Hamiltonian that generates the vector field exist. Our method, however, is different as it does not rely on the vector field nor assume its existence; instead, it directly learns the symplectic evolution map in discrete time. Moreover, we do so by representing the symplectic map via a generating function, which we approximate by a neural network (hence the name GFNN). This way, our approximation of the evolution map is always \emph{exactly} symplectic. This additional geometric structure allows the local prediction error at each step to accumulate in a controlled fashion, and we will prove, under reasonable assumptions, that the global prediction error grows at most \emph{linearly} with long prediction time, which significantly improves an otherwise exponential growth. In addition, as a map-based and thus purely data-driven method, GFNN avoids two additional sources of inaccuracies common in vector-field based approaches, namely the error in approximating the vector field by finite difference of the data, and the error in numerical integration of the vector field for making predictions. Numerical experiments further demonstrate our claims.

研究の動機と目的

• シンプレクティック写像によって生成される非線形時系列の予測のためのデータ駆動型手法を開発すること。特にハミルトニアン系を対象とする。
• 有限差分近似誤差および数値積分誤差に苦しむ、ベクトル場ベースの学習手法の限界を克服すること。
• 基礎となるハミルトニアンや常微分方程式（ODE）の存在や形に依存せずに、学習した写像における正確なシンプレクティック性を保証すること。
• 幾何的構造の保存によって誤差蓄積を制御し、長期間の予測精度を達成すること。
• 連続時間系に存在しない離散時間系（例：標準写像）への適用可能性を拡張すること。

提案手法

• シンプレクティック進化写像を生成関数で表現する。これにより、シンプレクティック写像と一対一対応が得られる。
• 生成関数をニューラルネットワーク（GFNN）で近似し、構成上正確にシンプレクティックな写像が得られるようにする。
• 初期条件を時間的に前方に進める写像を学習するために、離散時系列データ上でGFNNを訓練する。
• 数値積分やベクトル場推定を必要とせず、生成関数形式を用いてシンプレクティック性を強制する。
• シンプレクティック写像の幾何的構造を活用し、局所的誤差蓄積を制御することで、線形のグローバル誤差増加を実現する。
• 連続時間ハミルトニアン系（例：PCR3BP）および離散時間系（例：標準写像）の両方に対して適用し、異なる状態の下でも頑健性を示す。

実験結果

リサーチクエスチョン

• RQ1 基礎となるODEやハミルトニアンを仮定せずに、完全にデータ駆動型の手法がシンプレクティック進化写像を学習可能か？
• RQ2 生成関数を用いて正確なシンプレクティック性を強制することで、ベクトル場ベースの手法と比較して長期間予測精度がどのように向上するか？
• RQ3 既存の手法が失敗する非可分かつカオス的ハミルトニアン系において、GFNNは精度を維持できるか？
• RQ4 連続的力学を持たない離散時間系（例：標準写像）において、この手法はどのように性能を発揮するか？
• RQ5 長期間の予測期間にわたり、幾何的構造の保存が誤差蓄積に与える影響は何か？

主な発見

• GFNNは長期間の予測において、ベクトル場ベースの手法で一般的に見られる指数的誤差増加とは対照的に、線形のグローバル予測誤差増加を達成する。
• 非可分なPCR3BP系において、GFNNはSRNNでさえもシンプレクティック性を保証するように改造した場合でさえも、最先端（SOTA）の手法を上回る性能を示す。
• カオス的標準写像において、GFNNは唯一、主要な周期的領域（regular islands）とそれらの間の準周期的ジャンプを捉えている。他の手法はカオス的または周期的構造を再現できない。
• GFNNは正確にシンプレクティック性を維持しており、VFNN や HNN のようなベクトル場ベースのモデルが見せる誤差蓄積や歪みを回避する。
• 連続的ハミルトニアン力学を持たない系を含め、可積分系およびカオス的領域の両方で、軌道を正確に予測する。
• KLダイバージェンスを用いた定量的比較により、GFNNの予測された経験的分布は、特に位相空間構造と軌道トポロジーにおいて真の力学とよく一致している。