[论文解读] S3RP: Self-Supervised Super-Resolution and Prediction for Advection-Diffusion Process

Chulin Wang, Kyongmin Yeo+4 more|arXiv (Cornell University)|Nov 8, 2021

Advanced Image Processing Techniques参考文献 16被引用 6

一句话总结

S3RP 提出了一种自监督深度学习框架，用于在无需高分辨率（HR）真实值数据的情况下，对对流-扩散过程进行超分辨率重建与预测。该框架结合了物理信息递归卷积网络与循环Wasserstein自编码器（WAE），以建模不确定性，在超分辨率精度、物理一致性及概率覆盖方面达到最先进性能，在保留数据上实现1.38×10⁻⁴的MSE与65.5%的1σ覆盖度。

ABSTRACT

We present a super-resolution model for an advection-diffusion process with limited information. While most of the super-resolution models assume high-resolution (HR) ground-truth data in the training, in many cases such HR dataset is not readily accessible. Here, we show that a Recurrent Convolutional Network trained with physics-based regularizations is able to reconstruct the HR information without having the HR ground-truth data. Moreover, considering the ill-posed nature of a super-resolution problem, we employ the Recurrent Wasserstein Autoencoder to model the uncertainty.

研究动机与目标

• 解决环境与大气建模中超分辨率任务中缺乏高分辨率（HR）真实值数据的问题。
• 利用概率深度学习框架对超分辨率与时间预测中的不确定性进行建模。
• 通过将对流-扩散方程与质量守恒嵌入神经网络架构，确保物理一致性。
• 在单一统一架构中实现联合空间超分辨率与时间预测。
• 在复杂且不适定的场景中实现鲁棒性能，而确定性模型难以捕捉细尺度变化。

提出的方法

• 训练一个带有物理正则化的递归卷积神经网络，以强制满足对流-扩散方程及速度场的不可压缩性。
• 使用循环Wasserstein自编码器（WAE）对系统中的随机性进行建模，包含潜在变量后验分布与用于HR重建的生成网络。
• 实现一个物理感知模块PhyCell，将对流-扩散PDE与质量守恒直接嵌入RNN隐藏状态更新中。
• 最小化结合WAE目标（重建与分布差异）与物理正则化（PDE残差损失与散度损失）的损失函数。
• 在WAE中使用最大均值差异（MMD）作为差异度量，使后验潜在分布匹配先验分布。
• 通过蒙特卡洛采样实现概率预测与不确定性量化，并将下采样作为可微分的一致性约束。

实验结果

研究问题

• RQ1 自监督深度学习模型是否能在无HR真实值数据的情况下，实现对流-扩散过程的高保真超分辨率？
• RQ2 在缺乏真实值分布的情况下，如何有效建模超分辨率与时间预测中的不确定性？
• RQ3 物理信息神经网络在不适定问题中，能在多大程度上提升超分辨率与预测的物理一致性和准确性？
• RQ4 与确定性基线相比，集成物理正则化的循环WAE在重建误差与覆盖概率方面表现如何？
• RQ5 同一架构是否能在不同输入条件下同时实现超分辨率与长期预测？

主要发现

• S3RP在插值任务中实现1.38×10⁻⁴的均方误差（MSE），优于双三次插值基线（3.97×10⁻⁴）。
• 模型在1σ预测区间的实际覆盖概率达到65.5%，表明不确定性量化具有可靠性。
• 对流-扩散方程的物理误差为1.69×10⁻⁶，显著低于基线（1.83×10⁻⁶），表明物理一致性得到改善。
• S3RP的质量守恒（散度）误差为6.28×10⁻⁶，比双三次基线（6.20×10⁻⁵）低一个数量级。
• 外推模型由于未来风场不确定性增加，在蒙特卡洛模拟中产生比c-only模型更宽的预测区间。
• 可视化结果表明，S3RP能重建细尺度特征并保持物理合理性，而基线模型则无法保持质量守恒与空间细节。