[论文解读] A data driven reduced order model of fluid flow by Auto-Encoder and self-attention deep learning methods

Rui Fu, Dunhui Xiao+2 more|arXiv (Cornell University)|Sep 5, 2021

Model Reduction and Neural Networks参考文献 47被引用 14

一句话总结

该论文提出了一种基于数据驱动的非侵入式降阶模型（DDROM），用于流体流动模拟，采用堆叠自编码器（SAE）进行非线性降维，并利用自注意力网络预测潜在空间中的时间演化。该方法在准确性上优于传统的本征正交分解（POD）基降阶模型（ROM），相较于全阶模型实现100倍以上的加速，且在圆柱尾迹和锁交换等复杂流动问题中表现出更优的非线性表征能力。

ABSTRACT

This paper presents a new data-driven non-intrusive reduced-order model(NIROM) that outperforms the traditional Proper orthogonal decomposition (POD) based reducedorder model. This is achieved by using Auto-Encoder(AE) and attention-based deep learning methods. The novelty of the present work lies in that it uses Stacked AutoEncoder(SAE) network to project original high-dimensional dynamical systems onto a low dimensional nonlinear subspace and predict the fluid dynamics using an attentionbased deep learning method. A new model reduction neural network architecture for fluid flow problem is presented. The SAE network compresses high-dimensional physical information into several much smaller sized representations in a latent space. These representations are expressed by a number of codes in the middle layer of SAE neural network. Then, those codes at different time levels are trained to construct a set of hyper-surfaces with multi variable response functions using attention-based deep learning methods. The inputs of the attention-based network are previous time levels' codes and the outputs of the network are current time levels' codes. The codes at current time level are then projected back to the original full space by the decoder layers in the SAE network. The capability of this data-driven reduced order model (DDROM) is illustrated numerically by two test cases: flow past a cylinder, and a lock exchange, respectively. The results obtained show that the DDROM performs better in terms of accuracy than the popular model reduction method namely proper orthogonal decomposition. The improvement is assessed by comparison with a high fidelity POD model.

研究动机与目标

• 为克服传统本征正交分解（POD）基降阶模型（ROM）中线性试验子空间的局限性，该局限性限制了其在非线性流体动力学中的精度与效率。
• 开发一种数据驱动、非侵入式的降阶建模框架，以比现有方法更有效地捕捉复杂非线性流体行为。
• 将深度学习技术——特别是堆叠自编码器（SAE）和自注意力网络——整合到统一架构中，实现高效且精确的流体流动预测。
• 在基准流体流动问题上，展示所提出的DDROM相较于POD-ROM在精度与计算效率方面的优越性。
• 为未来扩展至参数化及大规模问题（如城市流、洪水模拟与海洋建模）奠定基础。

提出的方法

• 训练堆叠自编码器（SAE）将高维流体流动数据压缩至低维潜在空间，其中中间层以一组精简的“编码”表示数据。
• 在高保真模拟的快照数据上以无监督方式训练SAE，以学习全阶解空间的非线性流形。
• 训练自注意力深度学习网络，基于前一时间步的潜在编码预测当前时间步的潜在编码，通过学习的注意力权重建模时间依赖性。
• 将预测的潜在编码通过SAE的解码器网络还原至全阶空间，以重构完整的流动场。
• 整个框架为非侵入式：不修改全阶模型；仅使用高保真模拟的数据进行训练。
• 该方法在Fluidity有限元框架中实现，并在两个基准问题上进行了验证：圆柱绕流与锁交换流动。

实验结果

研究问题

• RQ1 基于SAE与自注意力机制的数据驱动降阶模型是否能在非线性流体流动问题中实现比传统POD基ROM更高的精度？
• RQ2 与线性POD子空间相比，SAE实现的非线性流形学习在复杂流体动力学表征方面提升了多少？
• RQ3 自注意力机制相比标准RNN或前馈网络，在潜在空间中的时间预测精度方面有何提升？
• RQ4 与高保真全阶模型及POD-ROM相比，所提出的DDROM在计算效率上获得了多大提升？
• RQ5 该框架能否扩展以处理参数化设置下的变化初始条件与边界条件？

主要发现

• 基于SAE的DDROM在RMSE上显著低于POD-ROM，且相关系数更高，尤其在捕捉圆柱绕流中的涡脱落与复杂流动结构方面表现更优。
• 在圆柱绕流案例中，使用6个潜在编码的DDROM相比使用6个基函数的POD-ROM，RMSE降低20%，证明了其更高的精度。
• DDROM的在线预测耗时仅为每时间步3.0×10⁻²秒，而全阶模型为2.5秒，实现超过80倍的加速。
• SAE的训练时间约为277–364秒，自注意力网络的训练时间为182–446秒，均在离线阶段完成，可重复用于在线推理。
• 在锁交换案例中，使用6个编码的DDROM相比全阶模型实现100倍以上的加速，且与高保真解的精度相当。
• 由于SAE提供的非线性子空间表征，该方法在两个测试案例中均成功捕捉了非线性动力学，包括瞬态与混沌行为。