[論文レビュー] AI-GOMS: Large AI-Driven Global Ocean Modeling System

Wei Xiong, Yanfei Xiang+5 more|arXiv (Cornell University)|Aug 6, 2023

Oceanographic and Atmospheric Processes被引用数 16

ひとこと要約

AI-GOMSは、バックボーンとしてフーリエ基盤のMasked Autoencoderを用いる大規模なAI主導の全球海洋モデリングフレームワークと、地域ダウンスケーリング、波動デコーディング、そして生化学結合の軽量なダウンストリームモジュールを備え、1/4°、15深度層で30日間の全球海洋予測を実現し、ダウンストリームタスクへの移行性を可能にします。

ABSTRACT

Ocean modeling is a powerful tool for simulating the physical, chemical, and biological processes of the ocean, which is the foundation for marine science research and operational oceanography. Modern numerical ocean modeling mainly consists of governing equations and numerical algorithms. Nonlinear instability, computational expense, low reusability efficiency and high coupling costs have gradually become the main bottlenecks for the further development of numerical ocean modeling. Recently, artificial intelligence-based modeling in scientific computing has shown revolutionary potential for digital twins and scientific simulations, but the bottlenecks of numerical ocean modeling have not been further solved. Here, we present AI-GOMS, a large AI-driven global ocean modeling system, for accurate and efficient global ocean daily prediction. AI-GOMS consists of a backbone model with the Fourier-based Masked Autoencoder structure for basic ocean variable prediction and lightweight fine-tuning models incorporating regional downscaling, wave decoding, and biochemistry coupling modules. AI-GOMS has achieved the best performance in 30 days of prediction for the global ocean basic variables with 15 depth layers at 1/4° spatial resolution. Beyond the good performance in statistical metrics, AI-GOMS realizes the simulation of mesoscale eddies in the Kuroshio region at 1/12° spatial resolution and ocean stratification in the tropical Pacific Ocean. AI-GOMS provides a new backbone-downstream paradigm for Earth system modeling, which makes the system transferable, scalable and reusable.

研究の動機と目的

• 従来の数値海洋モデリングにおける非線形不安定性や高結合コストといったボトルネックを克服するデータ駆動アプローチの必要性を動機づける。
• グローバルな海洋ダイナミクスを学習し、日次予測を正確に提供できる大規模なAI主導フレームワーク（AI-GOMS）を提案する。
• 訓練済みバックボーンモデルのダウンストリームの海洋関連タスクへの低いファインチューニングコストでの移行性を実証する。

提案手法

• フーリエベースのアテンションブロックとランダムパッチマスキング戦略を用いた非対称エンコーダ-デコーダを備えるバックボーンモデルを導入する。
• パッチ埋め込みとパッチ回復スキームを用いて、2D、3D、スパース入力をサポートし、データ同化を可能にするマルチソースデータ入力を実現する。
• HYCOM全球リアナリシスデータ上でバックボーンを訓練し、1/4°分解能で15深度層にわたる5つの基本海洋変数を予測する。
• 地域ダウンスケーリング、波動デコoding、ビオケミストリー結合の軽量ダウンストリームモジュールを開発し、低コストでファインチューニング可能にする。
• バックボーン-ダウンストリームアーキテクチャを用い、ダウンストリームモジュールがバックボーンの特徴量にシナリオ固有の入力を取り込んでタスク固有の予測を行う。

Figure 1: Overall Architecture of AI-GOMS. a , Backbone Model of AI-GOMS. Based on the asymmetric encoder-decoder structure with the random mask strategy, the model supports different length sequences. The prediction variables of the backbone model include 5 basic ocean variables (sea temperature(T)

実験結果

リサーチクエスチョン

• RQ1 1/4°分解能で30日間の期間にわたり、グローバル海洋変数とその鉛直プロファイルを正確にシミュレートできる大規模AIモデルは存在するか。
• RQ2 軽量なダウンストリーム微調整アプローチは、地域ダウンスケーリング、波高デコーディング、および生化学的変数予測を低い訓練コストで正確に実現できるか。
• RQ3 バックボーンモデルを下流の海洋関連タスクへ移行可能で、物理的一貫性（渦構造や階層化など）を維持できるか。

主な発見

• バックボーンモデルは、1/4°分解能で15深度層にわたり毎日5つの海洋変数を予測し、長期予測能力が高い。
• AI-GOMSは、30日間の予測において全変数でFourCastNetより緯度重み付きACCとRMSEが優れている。
• 地域ダウンスケーリングモジュールは、黒潮域の中尺度渦を1/12°で解像し、速度とSSHの7日間でACC>0.6を達成。
• 波動デコーディングモジュールは、軽量なファインチューニングを用いて30日間の顕著波高を予測可能。
• ビオケミストリー結合モジュールは、バックボーン特徴と生化学的条件を軽量なファインチューニングモデルで融合して8つの生化学的変数を予測する。
• 設計はバックボーンのダウンストリームシナリオへの移行性を低いファインチューニングコストでサポートする。

Figure 2: AI-GOMS achieves the best performance for all variables in 30 days of prediction. Latitude-weighted ACC for AI-GOMS (blue) and FourCastNet (green) averaged over several predictions in the out-of-sample testing dataset. The colored shaded regions around the ACC curves denote the region betw