[論文レビュー] Machine Learning for Robust Identification of Complex Nonlinear Dynamical Systems: Applications to Earth Systems Modeling

Nishant Yadav, Sai Ravela+1 more|arXiv (Cornell University)|Aug 12, 2020

Gaussian Processes and Bayesian Inference参考文献 39被引用数 7

ひとこと要約

本論文は、複雑な非線形力学系におけるロバストなパrameter推定のためのガウス過程ベースの機械学習手法を提案し、混沌としたLorenz-96モデルをベンチマークとして用いる。小さなデータ条件下でも、カーネルベースのガウス過程がディープラーニングや線形回帰を上回ることを示し、地球系モデルにおける予測精度と不確実性の定量化の両面で優れた性能を発揮する。

ABSTRACT

Systems exhibiting nonlinear dynamics, including but not limited to chaos, are ubiquitous across Earth Sciences such as Meteorology, Hydrology, Climate and Ecology, as well as Biology such as neural and cardiac processes. However, System Identification remains a challenge. In climate and earth systems models, while governing equations follow from first principles and understanding of key processes has steadily improved, the largest uncertainties are often caused by parameterizations such as cloud physics, which in turn have witnessed limited improvements over the last several decades. Climate scientists have pointed to Machine Learning enhanced parameter estimation as a possible solution, with proof-of-concept methodological adaptations being examined on idealized systems. While climate science has been highlighted as a "Big Data" challenge owing to the volume and complexity of archived model-simulations and observations from remote and in-situ sensors, the parameter estimation process is often relatively a "small data" problem. A crucial question for data scientists in this context is the relevance of state-of-the-art data-driven approaches including those based on deep neural networks or kernel-based processes. Here we consider a chaotic system - two-level Lorenz-96 - used as a benchmark model in the climate science literature, adopt a methodology based on Gaussian Processes for parameter estimation and compare the gains in predictive understanding with a suite of Deep Learning and strawman Linear Regression methods. Our results show that adaptations of kernel-based Gaussian Processes can outperform other approaches under small data constraints along with uncertainty quantification; and needs to be considered as a viable approach in climate science and earth system modeling.

研究の動機と目的

• 気候や気象シミュレーションにおいて、長年の課題とされているパラメータ化の不確実性に対処すること。
• 特にカーネルベースの手法を含む現代のデータ駆動型機械学習技術が、小規模で複雑な非線形力学系にどの程度有効であるかを評価すること。
• 限られたデータ条件下で、ガウス過程、ディープラーニング、線形回帰の3つの手法が混沌とした系のパrameterをどの程度正確に推定できるかを比較すること。
• 不確実性の定量化が、気候モデルにおけるパrameter推定のロバスト性と解釈可能性をどのように向上させるかを評価すること。
• データが限られる地球系科学分野におけるシステム同定の分野で、ガウス過程が実用的で信頼性の高い代替手法であることを確立すること。

提案手法

• 本研究では、大気・気候系を代表する混沌とした非線形力学的特性を有する二段階Lorenz-96モデルを、混沌とした力学的挙動のベンチマークとして用いる。
• 非パrametricな性質と組み込みの不確実性定量化機能を活かし、パrameter推定にガウス過程回帰フレームワークを採用する。
• 観測データまたはシミュレーションデータの限られたサンプルで学習を行い、ハイパーパrameterは対数尤度の最大化により最適化する。
• 同一の訓練・テストデータ分割を用いて、ディープニューラルネットワークと線形回帰モデルとを性能比較する。
• カーネル設計を通じて、システムの力学的挙動に関する事前知識を組み込み、データが不足する状況下での一般化性能を向上させる。
• 事後分散を用いてパrameter推定の不確実性を定量化し、ロバストネスの評価と信頼区間の算出を可能にする。

実験結果

リサーチクエスチョン

• RQ1 カーネルベースのガウス過程は、小規模データ条件下の混沌とした非線形力学系におけるパrameter推定において、ディープラーニングや線形回帰を上回ることができるか？
• RQ2 ガウス過程における不確実性定量化は、地球系モデルにおけるパrameter推定の信頼性をどのように向上させるか？
• RQ3 モデルの複雑さとデータの不足が、非線形システム同定におけるさまざまな機械学習手法の予測精度に及ぼす影響は何か？
• RQ4 ガウス過程は、限られた学習データでLorenz-96モデルのような複雑で混沌とした系にどの程度一般化できるか？
• RQ5 自然界に内在する非線形性とノイズを有する実世界の地球系動的システムに適用した場合、機械学習手法の予測能力はどのように比較されるか？

主な発見

• ガウス過程は、小規模なデータセットで学習した場合、ディープラーニングや線形回帰を著しく上回る予測精度を達成した。
• 特にノイズが多いまたはデータが少ない状況下でも、ベースラインモデルと比較して、パrameter推定における平均二乗誤差（RMSE）が低かった。
• カーネルベースのガウス過程は信頼性の高い不確実性推定を提供し、真のパrameterの変動とよく一致する信頼区間を生成した。
• モデルの誤設定やノイズに対してロバストであることが実証され、複数の実験設定において安定した性能を維持した。
• ディープラーニングモデルは小規模データ条件下で著しく過学習を示したが、線形モデルは非線形ダイナミクスを効果的に捉えられなかった。
• 本研究は、データが限られるが不確実性の定量化が重要となる地球系科学分野におけるシステム同定において、ガウス過程が強力な候補であることを確認した。