[论文解读] Global Tropical Cyclone Intensity Forecasting with Multi-modal Multi-scale Causal Autoregressive Model

Xinyu Wang, Kang Chen+4 more|arXiv (Cornell University)|Feb 16, 2024

Tropical and Extratropical Cyclones Research被引用 6

一句话总结

MSCAR 是一个全球热带气旋强度预测模型，通过多尺度因果自回归框架融合卫星数据和 ERA5 数据，引入 SETCD 作为大型多模态TC数据集，在全球和区域测试中实现最先进的短期预测。

ABSTRACT

Accurate forecasting of Tropical cyclone (TC) intensity is crucial for formulating disaster risk reduction strategies. Current methods predominantly rely on limited spatiotemporal information from ERA5 data and neglect the causal relationships between these physical variables, failing to fully capture the spatial and temporal patterns required for intensity forecasting. To address this issue, we propose a Multi-modal multi-Scale Causal AutoRegressive model (MSCAR), which is the first model that combines causal relationships with large-scale multi-modal data for global TC intensity autoregressive forecasting. Furthermore, given the current absence of a TC dataset that offers a wide range of spatial variables, we present the Satellite and ERA5-based Tropical Cyclone Dataset (SETCD), which stands as the longest and most comprehensive global dataset related to TCs. Experiments on the dataset show that MSCAR outperforms the state-of-the-art methods, achieving maximum reductions in global and regional forecast errors of 9.52% and 6.74%, respectively. The code and dataset are publicly available at https://anonymous.4open.science/r/MSCAR.

研究动机与目标

• 通过利用多模态、多尺度数据和因果时间关系，推动改进的TC强度预测。
• 推出 SETCD，这是全球最长的 TC 数据集，覆盖 43 年的卫星和 ERA5 数据，包含 72 个变量。
• 开发 MSCAR，将空间多尺度特征与时间因果性集成用于自回归的TC强度预测。
• 展示 MSCAR 在全球及各水文盆地的最先进性能，并具备实时鲁棒性与消融分析洞察。

提出的方法

• 通过特征金字塔网络融合卫星图像和 ERA5 数据，以捕捉多尺度的空间特征。
• 将空间信息表示为令牌，并应用因果跨注意力机制以将历史与空间上下文之间的时间因果性纳入其中。
• 使用自回归解码器在潜在空间迭代预测未来TC强度，从而实现任意步长预测。
• 在 SETCD 上使用 MAE 损失及正则化（L1 和 EMA）训练 MSCAR，利用过去的 4 个步长预测下一个 4 个步长（N=4, M=4）。
• 为 SETCD 提供来自 GridSat-B1 和 ERA5 的 IBTrACS 中心的，涵盖 1980–2022 的 4,668 次 TC 和 282,505 个实例。

实验结果

研究问题

• RQ1 一个多模态、多尺度、具因果信息的自回归模型是否能提升全球TC强度预测，超过现有方法？
• RQ2 包含 ERA5 和卫星数据，以及历史 TC 强度序列，对预测精度有何影响？
• RQ3 MSCAR 在全球和区域盆地、以及在近实时数据情境下的表现如何？
• RQ4 各架构组件（FPN、CC Attention、AR Decoder）对预测性能的贡献是什么？
• RQ5 SETCD 是否是未来全球TC研究的全面且有益的资源？

主要发现

• MSCAR 在全球和区域测试中的短期TC强度预报达到最先进水平，相较于基线方法。
• 在全球短期预测（2019–2020）中，MSCAR 在多个时域（最长达24小时）相较于传统模型有提升。
• 消融分析显示 ERA5 输入带来显著增益（9.39%–25.09%），历史强度序列对短期预测至关重要，且 CC Attention 在捕捉因果时空关系方面优于自注意力。
• 实时风格测试（使用分析数据替代 ERA5）显示 MSCAR 的性能与非实时结果相当，表明其适用于近实时使用的鲁棒性。
• 组件消融确认了 FPN 在多尺度融合中的重要性，优于 U-Net，以及因果跨注意力相较自注意力在物理合理性和性能上的必要性。