[论文解读] Stable a posteriori LES of 2D turbulence using convolutional neural networks: Backscattering analysis and generalization to higher Re via transfer learning

Yifei Guan, Ashesh Chattopadhyay+2 more|arXiv (Cornell University)|Feb 22, 2021

Fluid Dynamics and Turbulent Flows被引用 14

一句话总结

该论文提出了一种基于深度卷积神经网络（CNN）的后处理大涡模拟（LES）模型，用于2D衰减湍流，通过从高保真直接数值模拟（DNS）数据中学习亚格子尺度（SGS）强迫项，实现了稳定且精确的模拟。该方法仅使用1%的新流场数据进行迁移学习，即可将模型泛化至雷诺数提高16倍的流动，克服了小样本训练集下后向能量传递捕捉不佳导致的不稳定性问题。

ABSTRACT

There is a growing interest in developing data-driven subgrid-scale (SGS) models for large-eddy simulation (LES) using machine learning (ML). In a priori (offline) tests, some recent studies have found ML-based data-driven SGS models that are trained on high-fidelity data (e.g., from direct numerical simulation, DNS) to outperform baseline physics-based models and accurately capture the inter-scale transfers, both forward (diffusion) and backscatter. While promising, instabilities in a posteriori (online) tests and inabilities to generalize to a different flow (e.g., with a higher Reynolds number, Re) remain as major obstacles in broadening the applications of such data-driven SGS models. For example, many of the same aforementioned studies have found instabilities that required often ad-hoc remedies to stabilize the LES at the expense of reducing accuracy. Here, using 2D decaying turbulence as the testbed, we show that deep fully convolutional neural networks (CNNs) can accurately predict the SGS forcing terms and the inter-scale transfers in a priori tests, and if trained with enough samples, lead to stable and accurate a posteriori LES-CNN. Further analysis attributes these instabilities to the disproportionally lower accuracy of the CNNs in capturing backscattering when the training set is small. We also show that transfer learning, which involves re-training the CNN with a small amount of data (e.g., 1%) from the new flow, enables accurate and stable a posteriori LES-CNN for flows with 16x higher Re (as well as higher grid resolution if needed). These results show the promise of CNNs with transfer learning to provide stable, accurate, and generalizable LES for practical use.

研究动机与目标

• 开发一种稳定、精确且可泛化的数据驱动SGS模型，用于LES，采用深度学习方法。
• 解决使用有限数据训练的数据驱动SGS模型在后处理LES中出现的不稳定性问题。
• 探究后向能量传递预测准确性在导致后处理模拟中数值不稳定性中的作用。
• 通过仅使用少量额外数据的迁移学习，实现向更高雷诺数流动的泛化。
• 建立先验模型精度与后处理模拟稳定性之间的关联。

提出的方法

• 使用DNS快照以先验方式训练一个全卷积神经网络（CNN），从解析的流场中预测SGS强迫项。
• 通过最小化预测与真实SGS项之间的差异，CNN学习到包括正向与后向能量传递在内的跨尺度能量转移。
• 通过确保足够的训练数据以准确捕捉后向能量传递，实现后处理LES中的稳定性，这对数值鲁棒性至关重要。
• 通过在新高雷诺数流动的少量数据集（1%）上微调预训练的CNN，应用迁移学习，以适应新模型而无需从头开始训练。
• 该方法采用相同的网络架构和损失函数，但仅微调最后几层以适应新的流动统计特性和尺度。
• 该框架在2D衰减湍流中得到验证，其雷诺数最高可达训练集的16倍，且保持一致的网格分辨率和初始条件。

实验结果

研究问题

• RQ1 基于数据驱动的CNN-SGS模型能否在2D衰减湍流中实现稳定且精确的后处理LES？
• RQ2 当使用小样本数据集训练的数据驱动SGS模型时，后处理LES中的不稳定性由何引起？
• RQ3 后向能量传递预测的准确性与模拟稳定性之间有何关系？
• RQ4 迁移学习能否在仅使用少量额外数据的情况下，实现对更高雷诺数流动的精确且稳定的LES？
• RQ5 在某一流动中训练的CNN在多大程度上可泛化至显著不同的流动状态（如雷诺数提高16倍）？

主要发现

• 当在足够数据上进行训练时，CNN模型在先验测试中能高精度预测SGS强迫项及跨尺度能量转移。
• 当训练数据有限时，后处理LES中的不稳定性主要源于后向能量传递预测不足。
• 在足够训练数据下，基于CNN的LES可在长时间模拟中保持稳定与精确。
• 通过迁移学习，仅使用新流动1%的数据，即可实现对雷诺数提高16倍的流动的稳定且精确的后处理LES。
• 该方法无需从头开始训练即可有效泛化至更高雷诺数流动，表现出强大的迁移能力。
• 本研究建立了后向能量传递预测准确性与后处理稳定性之间的直接关联，为实现稳健的数据驱动LES提供了可行路径。