[论文解读] Learned Coarse Models for Efficient Turbulence Simulation

Kimberly Stachenfeld, Drummond B. Fielding+8 more|arXiv (Cornell University)|Dec 31, 2021

Model Reduction and Neural Networks被引用 24

一句话总结

本文提出一种基于简单空洞残差网络（Dilated ResNet）架构的可学习粗粒度模拟器，通过在低分辨率数据上端到端训练，实现了在与经典数值求解器相当分辨率下对湍流动力学的更精确模拟。通过调节训练噪声和时间下采样，该模型在包括Athena++天体物理模拟器在内的多种混沌与湍流系统中实现了稳定且可泛化的轨迹预测，优于专门设计的湍流模型。

ABSTRACT

Turbulence simulation with classical numerical solvers requires high-resolution grids to accurately resolve dynamics. Here we train learned simulators at low spatial and temporal resolutions to capture turbulent dynamics generated at high resolution. We show that our proposed model can simulate turbulent dynamics more accurately than classical numerical solvers at the comparably low resolutions across various scientifically relevant metrics. Our model is trained end-to-end from data and is capable of learning a range of challenging chaotic and turbulent dynamics at low resolution, including trajectories generated by the state-of-the-art Athena++ engine. We show that our simpler, general-purpose architecture outperforms various more specialized, turbulence-specific architectures from the learned turbulence simulation literature. In general, we see that learned simulators yield unstable trajectories; however, we show that tuning training noise and temporal downsampling solves this problem. We also find that while generalization beyond the training distribution is a challenge for learned models, training noise, added loss constraints, and dataset augmentation can help. Broadly, we conclude that our learned simulator outperforms traditional solvers run on coarser grids, and emphasize that simple design choices can offer stability and robust generalization.

研究动机与目标

• 开发一种通用的可学习模拟器，能够在低空间和时间分辨率下准确捕捉湍流动力学。
• 克服在混沌流体动力学中常见的可学习模拟器不稳定与泛化能力差的问题。
• 评估简单、非专用架构是否能在模拟高保真湍流流动时超越复杂、专用于湍流的模型。
• 研究训练噪声和时间下采样对模型稳定性与泛化能力的影响。
• 评估模型在分布外初始条件、轨迹长度和域尺寸下的泛化能力。

提出的方法

• 在来自高保真模拟（包括Athena++求解器）的低分辨率、低时间分辨率数据上训练空洞残差网络（Dil-ResNet）。
• 采用端到端、数据驱动的方法，不引入物理PDE求解器或领域特定的归纳偏置。
• 在训练中应用噪声增强以稳定长时程轨迹预测并减少发散。
• 实施时间下采样以减轻训练负担，并提升对更长轨迹的泛化能力。
• 采用标准的编码-处理-解码框架，结合图注意力消息传递与基于网格的卷积层。
• 应用损失约束和数据增强，以提升对初始条件和系统尺寸分布偏移的鲁棒性。

实验结果

研究问题

• RQ1 当经典数值求解器与可学习模拟器在相同低分辨率下运行时，简单通用的可学习模拟器是否能优于经典求解器？
• RQ2 在混沌湍流系统中，通过引入噪声和时间下采样训练是否能提升可学习模拟器的稳定性？
• RQ3 可学习模拟器在训练中未见的更长轨迹和更大空间域上的泛化能力如何？
• RQ4 非专用架构能否达到甚至超越更复杂、专用于湍流的模型性能？
• RQ5 损失约束和数据增强在提升模型对训练分布外情况的泛化能力方面起到何种作用？

主要发现

• 在多种指标下，Dil-ResNet模型在与经典求解器相当的低分辨率下表现更优，尤其在保留高频动力学方面优势显著。
• 采用噪声=0.01和时间下采样可显著稳定长时程轨迹预测，减少发散并提升一致性。
• 该模型在KS-1D系统中有效泛化至更长轨迹（最高181个时间单位）和更大空间域（2π宽），并成功保留关键湍流特征。
• 模型在时间上保持了守恒量（如能量、动量）的有界误差，噪声有助于抑制漂移。
• 损失约束提升了对更压缩性初始条件的泛化能力，而训练噪声则增强了长轨迹预测的稳定性。
• 在所有评估基准中，包括最先进的Athena++模拟器生成的数据，简单的Dil-ResNet架构均优于更复杂、专门设计的湍流模型。