[論文レビュー] Learning stochastic dynamical systems with neural networks mimicking the Euler-Maruyama scheme

Najoua Dridi, Lucas Drumetz+1 more|arXiv (Cornell University)|May 18, 2021

Model Reduction and Neural Networks参考文献 27被引用数 6

ひとこと要約

本論文は、確率的微分方程式（SDE）を学習するためのニューラルネットワークベースの手法を提案する。この手法は、最大尤度に基づいて訓練される2つの深層ネットワークを用いて、ドリフトおよび拡散をパラメータ化し、Euler-Maruyamaスキームを模倣する。このアプローチは、特に高ノイズ条件下でも、確率的Lorenz-63モデルと幾何ブラウン運動の両方において、混沌とうつるアトラクターの位相構造と確率的フラクチュエーションを正確に捉えることができ、ベースライン手法を上回る性能を示す。

ABSTRACT

Stochastic differential equations (SDEs) are one of the most important representations of dynamical systems. They are notable for the ability to include a deterministic component of the system and a stochastic one to represent random unknown factors. However, this makes learning SDEs much more challenging than ordinary differential equations (ODEs). In this paper, we propose a data driven approach where parameters of the SDE are represented by a neural network with a built-in SDE integration scheme. The loss function is based on a maximum likelihood criterion, under order one Markov Gaussian assumptions. The algorithm is applied to the geometric brownian motion and a stochastic version of the Lorenz-63 model. The latter is particularly hard to handle due to the presence of a stochastic component that depends on the state. The algorithm performance is attested using different simulations results. Besides, comparisons are performed with the reference gradient matching method used for non linear drift estimation, and a neural networks-based method, that does not consider the stochastic term.

研究の動機と目的

• 時間系列データから、ドリフトおよび拡散成分が未知の確率的力学系をデータ駆動で学習するための手法を開発すること。
• 状態依存の確率的性質と高ノイズレベルを含む系において、SDEパラメータを推定する課題に対処すること。
• SDEの動的性質を捉えることができない既存の手法（勾配マッチングやODEベースのニューラルネットワーク）を改善すること。
• Euler-Maruyama統合スキームをニューラルネットワークアーキテクチャに直接埋め込み、安定かつ微分可能なSDEシミュレーションを実現すること。
• 状態依存ノイズを伴う合成的（幾何ブラウン運動）および複雑な混沌的系（確率的Lorenz-63）に対して、本手法の有効性を検証すること。

提案手法

• SDEのドリフトおよび拡散関数を、それぞれ独立した深層ネットワーク（Bi-NN-SDE）でパラメータ化する。
• ネットワークアーキテクチャ内に微分可能なEuler-Maruyamaスキームの実装を統合し、SDEを数値的に統合する。
• 観測された軌道の1ステップ先予測密度に基づく尤度基準を用いてネットワークを訓練する。
• 状態遷移にマルコフ性とガウス性の仮定を置き、最適化のための尤度関数を定義する。
• 時間に沿ったバックプロパゲーションにより損失を最適化し、SDEパラメータのエンドツーエンド学習を可能にする。
• 標準的なBi-NN（SDEをODEとして扱う）や勾配マッチング、非確率的ニューラルネットワークと比較して性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 Euler-Maruyamaスキームを埋め込んだニューラルネットワークアーキテクチャは、ODEベースや勾配マッチング手法と比較して、状態依存ノイズを伴うSDEをより正確に学習できるか？
• RQ2 本手法は、混沌的系におけるさまざまなノイズレベル下でも、ドリフトおよび拡散成分の両方をどれほど正確に推定できるか？
• RQ3 高ノイズ下でも、真の確率的アトラクター（例：Lorenz-63のバタフライ型）の位相的構造をどれほど正確に保持できるか？
• RQ4 埋め込まれたSDE統合スキームの導入により、標準的なニューラルODEと比較して一般化性能および安定性が向上するか？
• RQ5 物理的に妥当な場合に、拡散行列のゼロ係数を効果的に同定できるか？その際、推定性能が劣化しないか？

主な発見

• 高ノイズ（γ=10）を伴う確率的Lorenz-63モデルにおいて、Bi-NN-SDE手法はドリフトおよび拡散推定の平均RMSEが0.522に達し、Bi-NN手法（RMSE = 0.601）を顕著に上回った。
• Bi-NN-SDE手法は、非ゼロ係数のRMSEを最大38%まで低減し、すべての係数で最低8%の改善を達成した。
• 高ノイズ（γ=10）下で100回のシミュレーション軌道のうち90%において、Bi-NN-SDEは正しくバタフライ型アトラクターの位相構造を再現したが、Bi-NNは60%のケースでのみ成功した。
• Bi-NN-SDE手法は確率的フラクチュエーションを的確に捉えたのに対し、Bi-NNおよび勾長マッチング手法は確率的性質をモデル化できず、しばしば1つのアトラクター分岐に収束した。
• 勾長マッチング手法は、異なるトレーニング軌道間で一貫性のないアトラクターを生成し、一般化性能の低さと確率的忠実性の欠如を示した。
• 本手法はノイズに強く、γ=50からγ=10にノイズが増加してもRMSEはわずかに上昇（0.322から0.601に）し、推定の分散も低く保った。