[논문 리뷰] XiHe: A Data-Driven Model for Global Ocean Eddy-Resolving Forecasting

Xiang Wang, Renzhi Wang외 17명|arXiv (Cornell University)|2024. 02. 05.

Oceanographic and Atmospheric Processes인용 수 20

한 줄 요약

XiHe는 선도적인 GOFS를 능가하고 전통 시스템보다 약 1000배 빠르게 작동하는 데이터 기반의 1/12° 전지구 해양 소용돌이 해역 예측 모델로서 최초의 데이터 기반 모델이다.

ABSTRACT

The leading operational Global Ocean Forecasting Systems (GOFSs) use physics-driven numerical forecasting models that solve the partial differential equations with expensive computation. Recently, specifically in atmosphere weather forecasting, data-driven models have demonstrated significant potential for speeding up environmental forecasting by orders of magnitude, but there is still no data-driven GOFS that matches the forecasting accuracy of the numerical GOFSs. In this paper, we propose the first data-driven 1/12° resolution global ocean eddy-resolving forecasting model named XiHe, which is established from the 25-year France Mercator Ocean International's daily GLORYS12 reanalysis data. XiHe is a hierarchical transformer-based framework coupled with two special designs. One is the land-ocean mask mechanism for focusing exclusively on the global ocean circulation. The other is the ocean-specific block for effectively capturing both local ocean information and global teleconnection. Extensive experiments are conducted under satellite observations, in situ observations, and the IV-TT Class 4 evaluation framework of the world's leading operational GOFSs from January 2019 to December 2020. The results demonstrate that XiHe achieves stronger forecast performance in all testing variables than existing leading operational numerical GOFSs including Mercator Ocean Physical SYstem (PSY4), Global Ice Ocean Prediction System (GIOPS), BLUElinK OceanMAPS (BLK), and Forecast Ocean Assimilation Model (FOAM). Particularly, the accuracy of ocean current forecasting of XiHe out to 60 days is even better than that of PSY4 in just 10 days. Additionally, XiHe is able to forecast the large-scale circulation and the mesoscale eddies. Furthermore, it can make a 10-day forecast in only 0.35 seconds, which accelerates the forecast speed by thousands of times compared to the traditional numerical GOFSs.

연구 동기 및 목표

• 중간 규모 소용돌이와 대규모 해류를 해상에서 해석할 수 있는 1/12° 해상 데이터 기반 글로벌 해양 예보 모델 개발.
• 물리 기반 GOFS에 비해 계산 시간을 크게 줄이는 신속한 예보 가능하도록 구현.
• 전용 트랜스포머 블록을 통해 국부적 공간 정보와 전 지구적 공간 정보를 통합하여 해양 역학을 학습.
• IV-TT Class 4 프레임워크와 외부 관측치를 사용하여 선도적인 작동 GOFS와의 성능 평가.

제안 방법

• 1/12° 글로벌 해양 데이터를 토큰 임베딩으로 처리하고 해양 특화 트랜스포머 스택을 사용하여 국소 및 원격 연계적 글로벌 역동성을 포착하는 계층적 트랜스포머 기반 프레임워크 XiHe를 제안한다.
• 연구에서 육상을 제외하고 계산을 줄이기 위한 해양-육지 마스킹 메커니즘을 도입한다.
• 창(window) 주의(attention)를 통한 국소 공간 정보 추출(SIE) 및 지역 간 텔레커넥션을 위한 그룹 벡터를 사용하는 전 세계 SIE 모듈을 갖춘 해양 특화 블록 설계.
• 비전 트랜스포머에서 영감을 받은 패치 분할/복원 파이프라인을 사용하여 해상도가 높은 입력을 관리하고 비자동회귀(non-auto-regressive) 다중 단계 예측을 생성.
• GLORYS12 재분석을 입력으로 사용하고 SST 구성 요소에 ERA5 OSTIA SST를 사용하여 SSH를 포함한 5개 목표 변수와 23개의 깊이 수준에 걸친 MSE 손실로 학습하며, 1993–2020의 데이터를 사용한다.

실험 결과

연구 질문

• RQ1 데이터 기반 모델이 다변량 글로벌 해양 예측에서 1/12° 해상으로 선도적인 수치 GOFS보다 우수한 정확도를 달성할 수 있는가?
• RQ2 육지/해양 구분 및 전용 국소/전세계 공간 모듈이 해양 역학 학습 및 예보 기술에 어떤 영향을 미치는가?
• RQ3 전통적인 GOFS를 능가하는 정확도로 최대 60일 간의 예측이 가능하며 예측 생성 속도는 얼마나 빠른가?
• RQ4 모델이 학습한 글로벌 구조가 대규모 순환과 중소 규모 소용돌이 활동을 모두 포착하는가?

주요 결과

• XiHe는 테스트 변수 전반에서 선도적 작동 수치 GOFS들(PSY4, GIOPS, BLK, FOAM) 보다 더 강한 예측 성능을 달성한다.
• 해류 예측은 최대 60일 동안 PSY4의 10일 예측보다 더 정확하다.
• XiHe는 단일 GPU에서 약 0.36초에 10일 예측을 생성할 수 있어 전통적인 GOFS보다 수천 배 빠른 예측을 가능하게 한다.
• 모델은 대규모 순환과 중소 규모 소용돌이 예측 역량을 보인다.
• 해양 특화 블록과 해양-육지 마스킹 메커니즘을 통해 국부적 디테일과 글로벌 텔레커넥션을 효과적으로 결합하는 아키텍처이다.