[論文レビュー] Predicting Rare Events in Multiscale Dynamical Systems using Machine Learning

Soon Hoe Lim, L. T. Giorgini+2 more|arXiv (Cornell University)|Aug 10, 2019

Advanced Thermodynamics and Statistical Mechanics被引用数 4

ひとこと要約

本稿では、遅い過程が速い駆動過程の影響を受けて進化するマルチスケール力学系における希少な臨界遷移を予測する、データ駆動型の機械学習的手法としてリザボアールコンピューティングを用いる。この手法は、低次元から高次元のシステムにわたり、数値的時間ステップ数の前から臨界イベントを予測することができ、予測可能性と複雑な領域における固有の限界を両方示している。

ABSTRACT

We study the problem of predicting rare critical transition events for a class of slow-fast nonlinear dynamical systems. The state of the system of interest is described by a slow process, whereas a faster process drives its evolution and induces critical transitions. By taking advantage of recent advances in reservoir computing, we present a data-driven method to predict the future evolution of the state. We show that our method is capable of predicting a critical transition event at least several numerical time steps in advance. We demonstrate the success as well as the limitations of our method using numerical experiments on three examples of systems, ranging from low dimensional to high dimensional. We discuss the mathematical and broader implications of our results.

研究の動機と目的

• 従来のモデリングでは予測が困難な、遅い・速い非線形力学系における希少な臨界遷移イベントを予測するという課題に対処すること。
• システムの基本方程式を明示的に知らなくても、機械学習を活用して臨界遷移の早期警告信号を検出できるデータ駆動型の予測手法を開発すること。
• 低次元から高次元までの多様な次元数のシステムに対して、数値実験を用いてこの手法の性能と限界を評価すること。
• 複雑な力学系における希少な出来事の予測にリザボアールコンピューティングを用いる数学的および実用的意義を検討すること。

提案手法

• 本手法は、リザボアールコンピューティングと呼ばれる再帰型ニューラルネットワークアーキテクチャを用い、観測データから遅い過程の時間的ダイナミクスを学習する。
• リザボアールネットワークは遅い変数の時系列データを処理し、臨界遷移を予測するために不可欠な非線形的時間依存性を捉える。
• 速い過程は、その影響が遅い過程に及ぼされる形で間接的にモデル化され、速いダイナミクスを明示的に表現する必要がない。
• リザボアール状態を将来的な遅い過程の状態へマップするためのリードアウト層を訓練することで、近い将来の遷移を予測可能にする。
• 汎用性と頑健性をテストするために、低次元から高次元のシステムにわたり、3つの数値的例にこの手法を適用する。
• 臨界遷移の発生から何ステップ前までに予測できるかを測定し、予測の信頼性を評価することで、予測精度を評価する。

実験結果

リサーチクエスチョン

• RQ1 リザボアールコンピューティングは、限られたデータのもとでマルチスケール力学系における希少な臨界遷移を正確に予測できるか？
• RQ2 提案手法は、実際の出来事発生時より何ステップ前までに臨界遷移を検知できるか？
• RQ3 高次元のシステムや強いノイズ下において、この手法の性能にどのような限界が生じるか？
• RQ4 従来のモデリング手法と比較して、非線形系における希少な出来事の予測において、この手法はどのように異なるか？
• RQ5 数学的およびシステム的条件として、この手法が臨界遷移の予測に成功または失敗する状況はどのようなものか？

主な発見

• 本手法は、少なくとも数値的時間ステップ数の前から臨界遷移イベントを正しく予測でき、早期警告能力を示している。
• リザボアールコンピューティング手法は、低次元から高次元の例にわたり、次元数の異なるシステムに一般化可能である。
• 極めて非線形的または高次元の領域では予測精度が低下し、複雑なダイナミクスにおける固有の限界が示されている。
• 本手法は、下位の速いダイナミクスを明示的にモデル化しなくても、観測された遅い過程のデータのみに依存して臨界遷移を捉えることができる。
• ノイズやモデル不確実性に対して頑健であるため、システム方程式が未知の現実世界の応用に適している。
• 結果から、リザボアールコンピューティングは、複雑でマルチスケールなシステムにおける希少な出来事の予測に強力なツールとなり得ることが示唆される。