[論文レビュー] AI-based data assimilation: Learning the functional of analysis estimation

Jan D. Keller, Roland Potthast|arXiv (Cornell University)|Jun 1, 2024

Meteorological Phenomena and Simulations被引用数 4

ひとこと要約

本稿では、変分コスト関数をニューラルネットワークに直接統合することで、事前分析データセットに依存しない、深層学習に基づく新しい変分データ同調法であるAI-Varを提案する。ネットワークをエンド・ツー・エンドで最適化して変分コスト関数を最小化することで、計算コストを低減しつつ、数値的天気予報のための高精度な初期状態を達成した。この手法は、理想化されたケースと実世界のテストケースの両方で実現可能性を示した。

ABSTRACT

The integration of observational data into numerical models, known as data assimilation (DA), is fundamental for making Numerical Weather Prediction (NWP) possible, with breathtaking success over the past 60 years (Bauer et al. 2015). Traditional DA methods, such as variational techniques and ensemble Kalman filters, are basic pillars of current NWP by incorporating diverse observational data. However, the emergence of artificial intelligence (AI) presents new opportunities for further improvements. AI-based approaches can emulate the complex computations of traditional NWP models at a reduced computational cost, offering the potential to speed up and improve analyses and forecasts dramatically (e.g. Pathak et al., 2022; Bi et al., 2023; Lam et al., 2023; Bouallegue et al., 2023). AI itself plays a growing role in optimization (e.g. Fan et al., 2024), which offers new possibilities also beyond model emulation. In this paper, we introduce a novel AI-based variational DA approach designed to replace classical methods of DA by leveraging deep learning techniques. Unlike previous hybrid approaches, our method integrates the DA process directly into a neural network, utilizing the variational DA framework. This innovative AI-based system, termed AI-Var, employs a neural network trained to minimize the variational cost function, enabling it to perform DA without relying on pre-existing analysis datasets. We present a proof-of-concept implementation of this approach, demonstrating its feasibility through a series of idealized and real-world test cases. Our results indicate that the AI-Var system can efficiently assimilate observations and produce accurate initial conditions for NWP, highlighting its potential to carry out the DA process in weather forecasting. This advancement paves the way for fully data-driven NWP systems, offering a significant leap forward in computational efficiency.

研究の動機と目的

• 古典的な解析ステップや事前データセットに依存しない、完全にデータ駆動型のAIベースのデータ同調システムの開発。
• 変分データ同調フレームワークをニューラルネットワークアーキテクチャに直接統合し、計算効率の向上を図ること。
• 真の解析場に依存せずに、変分コスト関数を最小化するように訓練されたニューラルネットワークの実現可能性の検証。
• AI-Varを完全にデータ駆動型の数値的天気予報システムの基盤としての可能性を検討すること。
• 表面温度（T2M）場を含む、理想化されたケースと実世界の気象データの両方における手法の性能評価。

提案手法

• 3D-Varの変分コスト関数を、深層ニューラルネットワーク内での微分可能損失関数として定式化する。
• 背景場と観測値（位置情報付き）を入力として、変分コスト関数を最小化するように、全結合ニューラルネットワークを訓練し、解析場を出力する。
• マハラノビス距離を用いて、背景誤差と観測誤差の不一致項を組み合わせ、正則化されたガウス型の背景誤差共分散行列（B行列）を用いる。
• 合成観測データおよび実観測データ上で、確率的勾配降下法とAdam最適化法を用いてネットワークを訓練する。入力フィールドは正規化され、観測位置は入力ベクトルの一部として符号化される。
• 真の解析データセットを必要としない自己教師型学習により、コスト関数を直接最小化することで、ラベル付き解析データセットの必要性を回避する。
• PyTorchを用いて実装され、グリッドベースの気象フィールドのバッチ処理を想定したデータローディングおよびトレーニングループが設計されている。

実験結果

リサーチクエスチョン

• RQ1 真の解析場が事前に計算されていなくても、変分コスト関数を直接最小化するように訓練された深層ニューラルネットワークが、データ同調を実行できるか。
• RQ2 背景場と観測値のみで訓練された場合、AI-Var手法が高精度な初期状態を再構築できるか。
• RQ3 背景誤差共分散行列の表現（例：ガウスカーネル）が解析品質に与える影響は何か。
• RQ4 AI-Varフレームワークは、空間的不均一性を示す実世界の気象データ（例：2m温度（T2M））に対しても効果的に適用可能か。
• RQ5 分析誤差と計算効率の観点から、AI-Varの性能は古典的3D-Varと比べてどの程度か。

主な発見

• AI-Var手法は、変分コスト関数を効果的に学習し、理想化されたケースと実世界のテストケースの両方で高精度な初期状態を生成した。
• 理想化されたケースでは、背景場と比較して分析誤差を最大70％まで低減した。これは、強力な学習能力を示している。
• 実世界のT2Mデータでは、顕著な誤差低減が達成されたが、固定されたガウス型B行列の使用により、一部の性能制限が見られた。これは、より適応的な共分散モデルを用いることでさらなる改善が可能であることを示唆している。
• 独立した観測を用いた交差検証実験により、手法の汎化能力が確認されたが、選択されたB行列設定下では最適でない結果が得られた。
• 概念実証実装により、変分コスト関数をエンド・ツー・エンドで訓練することで、真の解析データにアクセスせずに複雑なデータ同調ダイナミクスを学習可能であることが示された。
• 結果から、AI-Varは、計算効率を高めた完全にデータ駆動型の数値的天気予報システムへの道筋として実現可能であると考えられる。