[論文レビュー] Machine learning with data assimilation and uncertainty quantification for dynamical systems: a review

Sibo Cheng, Cesar Quilodran-Casas+15 more|arXiv (Cornell University)|Mar 18, 2023

Meteorological Phenomena and Simulations被引用数 13

ひとこと要約

データ同化と不確実性定量化（不確実性定量化）が高次元の動的システムに対する機械学習をどのように強化するか、そして機械学習がどのようにしてDAとUQを進展させ得るかについての総合的なレビュー。

ABSTRACT

Data Assimilation (DA) and Uncertainty quantification (UQ) are extensively used in analysing and reducing error propagation in high-dimensional spatial-temporal dynamics. Typical applications span from computational fluid dynamics (CFD) to geoscience and climate systems. Recently, much effort has been given in combining DA, UQ and machine learning (ML) techniques. These research efforts seek to address some critical challenges in high-dimensional dynamical systems, including but not limited to dynamical system identification, reduced order surrogate modelling, error covariance specification and model error correction. A large number of developed techniques and methodologies exhibit a broad applicability across numerous domains, resulting in the necessity for a comprehensive guide. This paper provides the first overview of the state-of-the-art researches in this interdisciplinary field, covering a wide range of applications. This review aims at ML scientists who attempt to apply DA and UQ techniques to improve the accuracy and the interpretability of their models, but also at DA and UQ experts who intend to integrate cutting-edge ML approaches to their systems. Therefore, this article has a special focus on how ML methods can overcome the existing limits of DA and UQ, and vice versa. Some exciting perspectives of this rapidly developing research field are also discussed.

研究の動機と目的

• 高次元ダイナミカルシステムにおけるデータ同化と不確実性定量化の核心的課題に、機械学習がどのように対処できるかを明らかにする。
• データ同化と不確実性定量化が機械学習モデルの頑健性、解釈性、精度をどう高めるかを調査する。
• 縮約モデル（ROM）アプローチの要約と、それらの機械学習、データ同化、不確実性定量化との統合について。
• NWP、環境モデリング、CFDにおける主要な適用例を強調し、今後の展望を議論する。

提案手法

• アプローチを、MLを用いるDAとDA/UQにより支援されたMLに分類する。
• 4D-Varと機械学習を結ぶ確率的および変分的定式化を論じる。
• カルマンフィルタに基づくDA法と変分法DA法を分析し、それらのUQへの含意を検討する。
• ROMのための機械学習技術をレビューする。オートエンコーダ、POD/PGD、DLベースの代理モデルを含む。
• モンテカルロ法、ポリノミアルカオス、適合予測を含む、ML/DA文脈でのUQ手法を検討する。

実験結果

リサーチクエスチョン

• RQ1 解釈性やモデル誤差の扱いなど、従来のDAとUQの限界を機械学習手法はどのように克服できるか。
• RQ2 データ同化の原理は高次元ダイナミカルシステムの機械学習予測の信頼性と不確実性定量化をどのように改善できるか。
• RQ3 縮約モデルはスケーラブルなML-DA-UQの統合を可能にする上でどのような役割を果たすか。
• RQ4 気候、CFD、地球科学分野での機械学習とDAおよびUQの統合における主要な適用例と課題は何か。
• RQ5 この学際分野の将来の研究に向けて、期待される展望と方法論上のギャップは何か。

主な発見

• 機械学習とDA/UQは相互に有益で、微分可能なモデルを通じてDAを改善し、DAは機械学習予測の原理的な不確実性制御を提供する。
• 変分DAと4D-Varは勾配ベースの機械学習最適化と正式な接続を持ち、モデル誤差と観測誤差の共同扱いを可能にする。
• アンサンブルカルマンフィルタ、局在化、インフレーションは、ML-DAの文脈における高次元問題の実用的な解決策であり続ける。
• オートエンコーダやグラフニューラルネットワークを含むDLベースのROMは、高次元予測と代理モデリングの効率化に強い潜在能力を示し、UQが信頼性を導く。
• モンテカルロ法、ポリノミアルカオス、適合予測を含む不確実性定量化手法は、ノイズやデータ不足の下での機械学習予測を評価するうえで不可欠である。