[论文解读] Deep coastal sea elements forecasting using U-Net based models

Jesús García Fernández, Ismail Alaoui Abdellaoui+1 more|arXiv (Cornell University)|Nov 6, 2020

Oceanographic and Atmospheric Processes被引用 9

一句话总结

本文提出了一种基于U-Net的新型深度学习框架，用于利用卫星图像对沿海海洋要素进行多步预测。通过将残差连接、并行卷积和非对称卷积整合到3D U-Net架构中，AsymmInceptionRes-3DDR-UNet模型在所有季节和最多提前72小时的预测时长内，均在预测海表温度、盐度和海流速度方面达到最先进性能。

ABSTRACT

The supply and demand of energy is influenced by meteorological conditions. The relevance of accurate weather forecasts increases as the demand for renewable energy sources increases. The energy providers and policy makers require weather information to make informed choices and establish optimal plans according to the operational objectives. Due to the recent development of deep learning techniques applied to satellite imagery, weather forecasting that uses remote sensing data has also been the subject of major progress. The present paper investigates multiple steps ahead frame prediction for coastal sea elements in the Netherlands using U-Net based architectures. Hourly data from the Copernicus observation programme spanned over a period of 2 years has been used to train the models and make the forecasting, including seasonal predictions. We propose a variation of the U-Net architecture and further extend this novel model using residual connections, parallel convolutions and asymmetric convolutions in order to introduce three additional architectures. In particular, we show that the architecture equipped with parallel and asymmetric convolutions as well as skip connections outperforms the other three discussed models.

研究动机与目标

• 利用卫星图像上的深度学习改进沿海海洋要素的多步预测。
• 解决预测具有高时空变异性的复杂动态沿海海洋变量的挑战。
• 通过引入残差学习、并行卷积和非对称卷积来增强U-Net架构，以实现更好的特征提取。
• 在不同季节和预测时延（12–72小时）下评估模型性能。
• 提供一种计算成本更低的数据驱动替代方案，以替代传统数值天气预报（NWP）。

提出的方法

• 将3D U-Net架构适配以处理时空卫星数据，将3D输入（时间延迟帧）映射到2D输出（当前海洋状态）。
• 引入带有跳跃连接的残差模块，以稳定训练过程并改善深层网络中的梯度流动。
• 引入受Inception模块启发的并行卷积分支，以捕捉多尺度空间特征。
• 应用非对称卷积以减少参数量，同时提高对空间模式的敏感性，同时保持高效性。
• 在覆盖荷兰沿海地区的两年小时级Copernicus卫星数据上端到端训练模型。
• 使用均方误差（MSE）作为损失函数，并在测试数据上评估不同季节和多个预测时延下的性能。

实验结果

研究问题

• RQ1 残差连接、并行卷积和非对称卷积的集成如何影响沿海海洋要素预测的性能？
• RQ2 哪种基于U-Net的架构在不同季节和预测时延（12小时至72小时）下泛化能力最佳？
• RQ3 所提出的模型是否在预测复杂海洋变量（如盐度和海流速度）方面优于标准U-Net和3D U-Net基线模型？
• RQ4 随着预测提前时间增加和季节性天气变异性的变化，模型性能如何变化？
• RQ5 基于卫星数据训练的深度学习模型是否能在不依赖物理方程的情况下实现可靠的多步预测？

主要发现

• AsymmInceptionRes-3DDR-UNet模型在所有预测时延和季节中均达到最低的测试MSE，提前12小时时为5.15e-02，提前72小时时为1.41e-01。
• 随着预测提前时间增加，性能出现下降，但AsymmInceptionRes-3DDR-UNet模型的误差增长速度最慢。
• 冬季因天气变异性更高，挑战最大，所有模型的MSE值最高，而夏季则表现出最稳定和最准确的预测。
• 海水盐度是最难预测的变量，其MSE始终高于海表温度和海流速度。
• 采用并行和非对称卷积的模型（AsymmInceptionRes-3DDR-UNet）在提前72小时时比标准3DDR-UNet的MSE降低10.5%，证明了架构改进的有效性。
• 可视化结果表明，即使在冬季提前48小时预测复杂变量（如东向海流速度EastCUR和北向海流速度NorthCUR）时，AsymmInceptionRes-3DDR-UNet仍能生成准确且空间一致的预测。