[논문 리뷰] AI-GOMS: Large AI-Driven Global Ocean Modeling System

Wei Xiong, Yanfei Xiang외 5명|arXiv (Cornell University)|2023. 08. 06.

Oceanographic and Atmospheric Processes인용 수 16

한 줄 요약

AI-GOMS는 푸리에 기반 마스킹된 오토인코더를 백본으로 하고 지역 축소, 파 해석, 생화학 결합을 위한 경량 다운스트림 모듈을 갖춘 대규모 AI 기반 글로벌 해양 모델링 프레임워크를 제시하며, 1/4° 해양에 대해 15개의 깊이 계층으로 30일 간 글로벌 해양 예측이 가능하고 다운스트림 작업으로의 이식성도 제공합니다.

ABSTRACT

Ocean modeling is a powerful tool for simulating the physical, chemical, and biological processes of the ocean, which is the foundation for marine science research and operational oceanography. Modern numerical ocean modeling mainly consists of governing equations and numerical algorithms. Nonlinear instability, computational expense, low reusability efficiency and high coupling costs have gradually become the main bottlenecks for the further development of numerical ocean modeling. Recently, artificial intelligence-based modeling in scientific computing has shown revolutionary potential for digital twins and scientific simulations, but the bottlenecks of numerical ocean modeling have not been further solved. Here, we present AI-GOMS, a large AI-driven global ocean modeling system, for accurate and efficient global ocean daily prediction. AI-GOMS consists of a backbone model with the Fourier-based Masked Autoencoder structure for basic ocean variable prediction and lightweight fine-tuning models incorporating regional downscaling, wave decoding, and biochemistry coupling modules. AI-GOMS has achieved the best performance in 30 days of prediction for the global ocean basic variables with 15 depth layers at 1/4° spatial resolution. Beyond the good performance in statistical metrics, AI-GOMS realizes the simulation of mesoscale eddies in the Kuroshio region at 1/12° spatial resolution and ocean stratification in the tropical Pacific Ocean. AI-GOMS provides a new backbone-downstream paradigm for Earth system modeling, which makes the system transferable, scalable and reusable.

연구 동기 및 목표

• 전통 해양 수치 모델링의 비선형 불안정성 및 높은 결합 비용과 같은 병목을 극복하기 위한 데이터 기반 접근의 필요성에 대한 동기를 제시한다.
• 전 세계 해양 역학을 학습하고 매일 정확한 예측을 제공할 수 있는 대규모 AI 구동 프레임워크(AI-GOMS)를 제안한다.
• 학습된 백본 모델의 다운스트림 해양 관련 작업으로의 이전 가능성과 낮은 세부 조정 비용을 Demonstrate한다.

제안 방법

• 푸리에 기반 주의(attention) 블록과 무작위 패치 마스킹 전략을 사용하는 비대칭 인코더–디코더를 갖춘 백본 모델을 도입한다.
• 패치 임베딩 및 패치 회복 스킴을 사용하여 2D, 3D, 희소 입력을 지원하고 데이터 동화(데이터 애설리미에이션)를 가능하게 하는 다중 소스 데이터 입력을 가능하게 한다.
• HYCOM 글로벌 재분석 데이터를 활용하여 1/4° 해상도에서 15 깊이 계층에 걸친 다섯 가지 기본 해양 변수를 예측하도록 백본을 학습한다.
• 지역 축소, 파 해석, 생화학 결합을 위한 경량 다운스트림 모듈을 개발하고 낮은 비용으로 미세 조정이 가능하도록 한다.
• 다운스트림 모듈이 시나리오별 입력과 함께 백본 특징을 섭취하는 백본–다운스트림 아키텍처를 사용하여 작업별 예측을 수행한다.

실험 결과

연구 질문

• RQ1 큰 AI 모델이 1/4° 해상도에서 30일 동안 글로벌 해양 변수와 그들의 수직 프로파일을 정확히 시뮬레이션할 수 있는가?
• RQ2 가볍고 다운스트림 미세 조정 접근 방식이 지역 축소, 파 높이 해독, 생화학 변수 예측에서 낮은 학습 비용으로 정확성을 보장하는가?
• RQ3 백본 모델이 물리적 일관성(예: 소용돌이 구조 및 층상화)을 유지하며 다운스트림 해양 관련 작업으로 이식 가능한가?

주요 결과

• 백본 모델은 1/4° 해상도에서 15 깊이 계층에 걸쳐 매일 다섯 가지 해양 변수를 예측하며 장기 예측 능력이 강하다.
• AI-GOMS는 30일간의 예측에서 모든 변수에 대해 FourCastNet보다 위도 가중된 ACC 및 RMSE가 더 우수하다.
• 지역 축소 모듈은 쿠로시오 지역에서 1/12°로 중규모 소용돌이를 해상시키며 속도 및 SSH에 대해 7일 간 ACC > 0.6을 달성한다.
• 파 해독 모듈은 가벼운 미세 조정을 통해 30일 간의 유의 파고를 예측할 수 있다.
• 생화학 결합 모듈은 백본 특징과 생화학적 조건을 가벼운 미세 조정 모델을 통해 융합하여 여덟 가지 생화학 변수 예측을 수행한다.
• 설계는 낮은 세부 조정 비용으로 백본의 다운스트림 시나리오로의 이식을 지원한다.