[논문 리뷰] Global Tropical Cyclone Intensity Forecasting with Multi-modal Multi-scale Causal Autoregressive Model

Xinyu Wang, Kang Chen외 4명|arXiv (Cornell University)|2024. 02. 16.

Tropical and Extratropical Cyclones Research인용 수 6

한 줄 요약

MSCAR은 글로벌 열대성 사이클로닉 강도 예측 모델로, 위성 및 ERA5 데이터를 다중 스케일 인과적 자기회귀 프레임워크로 융합하고 SETCD를 대형 다모달 TC 데이터셋으로 도입하며 글로벌 및 지역 테스트에서 단기 예측 최첨단을 달성합니다.

ABSTRACT

Accurate forecasting of Tropical cyclone (TC) intensity is crucial for formulating disaster risk reduction strategies. Current methods predominantly rely on limited spatiotemporal information from ERA5 data and neglect the causal relationships between these physical variables, failing to fully capture the spatial and temporal patterns required for intensity forecasting. To address this issue, we propose a Multi-modal multi-Scale Causal AutoRegressive model (MSCAR), which is the first model that combines causal relationships with large-scale multi-modal data for global TC intensity autoregressive forecasting. Furthermore, given the current absence of a TC dataset that offers a wide range of spatial variables, we present the Satellite and ERA5-based Tropical Cyclone Dataset (SETCD), which stands as the longest and most comprehensive global dataset related to TCs. Experiments on the dataset show that MSCAR outperforms the state-of-the-art methods, achieving maximum reductions in global and regional forecast errors of 9.52% and 6.74%, respectively. The code and dataset are publicly available at https://anonymous.4open.science/r/MSCAR.

연구 동기 및 목표

• 다모달, 다중 스케일 데이터와 인과적 시간 관계를 활용하여 TC 강도 예측을 개선하려는 동기를 부여한다.
• 72개 변수에 걸친 위성 및 ERA5 데이터 43년간의 글로벌 TC 데이터셋 SETCD를 소개한다.
• 공간 다중 스케일 특징을 시간적 인과성과 결합하여 자기회귀 TC 강도 예측을 위한 MSCAR를 개발한다.
• 전 세계적으로 및 교차 분지에서 MSCAR의 최첨단 성능을 실시간 강건성 및 소거 분석 통찰과 함께 입증한다.

제안 방법

• 다중 스케일 공간 특징을 포착하기 위해 Feature Pyramid Network를 활용하여 위성 이미지와 ERA5 데이터를 융합한다.
• 공간 정보를 토큰으로 표현하고 역사와 공간 맥락 간의 시간적 인과성을 반영하기 위해 Causal Cross-Attention 메커니즘을 적용한다.
• 잠재 공간에서 미래 TC 강도를 반복적으로 예측하는 자동회귀 디코더를 사용하여 임의의 스텝 예측을 가능하게 한다.
• SETCD에서 과거 4단계를 사용해 다음 4단단계를 예측하도록 MSCAR을 MAE 손실과 규제(L1 및 EMA)로 훈련한다(N=4, M=4).
• IBTrACS 중심으로 GridSat-B1 및 ERA5에서 파생된 SETCD에 4,668개의 TC와 1980–2022에 걸친 282,505개의 사례를 제공한다.

실험 결과

연구 질문

• RQ1 다모달, 다중 스케일, 인과적으로 정보를 가진 자기회귀 모델이 기존 방법을 넘는 글로벌 TC 강도 예측을 개선할 수 있는가?
• RQ2 ERA5 및 위성 데이터의 포함과 과거 TC 강도 시퀀스가 예측 정확도에 어떤 영향을 미치는가?
• RQ3 MSCAR은 글로벌 및 지역 분지에서 어떻게 성능을 발휘하며 거의 실시간 데이터 시나리오에서의 성능은 어떤가?
• RQ4 각 아키텍처 구성요소(FPN, CC Attention, AR Decoder)가 예측 성능에 기여하는 바는 무엇인가?
• RQ5 SETCD는 향후 글로벌 TC 연구에 포괄적이고 유익한 자원인가?

주요 결과

• MSCAR은 글로벌 및 지역 테스트에서 벤치마크에 비해 단기 TC 강도 예측에서 최첨단 성능을 달성한다.
• 글로벌 단기 예측(2019–2020)에서 MSCAR은 여러 수평선에서 기존 모델 대비 개선을 보인다(최대 24h).
• 소거 분석에 따르면 ERA5 입력은 상당한 이득을 제공하며(9.39%–25.09%), 과거 강도 시퀀스는 단기 예측에 중요하고 CC Attention은 시공간적 인과 관계를 포착하는 데 자기 주의보다 우수하다.
• 실시간 스타일 테스트(ERA5 대체로 분석 데이터를 사용)에서 MSCAR은 비실시간 결과와 비슷한 성능을 유지하여 거의 실시간 사용에 대한 강건성을 시사한다.
• 구성요소 소거 분석은 다중 스케일 융합을 위한 FPN의 중요성과 물리적 타당성 및 성능 측면에서 자기 주의보다 인과적 교차 주의의 필요성을 확인한다.