[论文解读] Neural-network learning of SPOD latent dynamics

Andrea Lario, Romit Maulik+3 more|arXiv (Cornell University)|Oct 18, 2021

Anomaly Detection Techniques and Applications被引用 6

一句话总结

本文提出了一种非侵入式的降阶模型，用于拟稳态动力系统，通过使用长短期记忆网络（LSTMs）学习谱 Proper Orthogonal Decomposition（SPOD）模态的潜在动力学。该方法在捕捉具有特定频率的动力学方面优于标准的POD基模型，投影误差更低，尽管由于更大的潜在空间和SPOD系数的复杂时间行为，导致计算成本更高且学习误差更大。

ABSTRACT

We aim to reconstruct the latent space dynamics of high dimensional, quasi-stationary systems using model order reduction via the spectral proper orthogonal decomposition (SPOD). The proposed method is based on three fundamental steps: in the first, once that the mean flow field has been subtracted from the realizations (also referred to as snapshots), we compress the data from a high-dimensional representation to a lower dimensional one by constructing the SPOD latent space; in the second, we build the time-dependent coefficients by projecting the snapshots containing the fluctuations onto the SPOD basis and we learn their evolution in time with the aid of recurrent neural networks; in the third, we reconstruct the high-dimensional data from the learnt lower-dimensional representation. The proposed method is demonstrated on two different test cases, namely, a compressible jet flow, and a geophysical problem known as the Madden-Julian Oscillation. An extensive comparison between SPOD and the equivalent POD-based counterpart is provided and differences between the two approaches are highlighted. The numerical results suggest that the proposed model is able to provide low rank predictions of complex statistically stationary data and to provide insights into the evolution of phenomena characterized by specific range of frequencies. The comparison between POD and SPOD surrogate strategies highlights the need for further work on the characterization of the interplay of error between data reduction techniques and neural network forecasts.

研究动机与目标

• 开发一种基于SPOD潜在动力学的非侵入式高维拟稳态系统代理模型。
• 通过SPOD实现频率选择性分解，降低计算成本并提高对复杂、统计平稳数据建模的准确性。
• 在投影误差、学习误差和预测精度方面，比较基于SPOD的建模与传统的POD基方法。
• 研究降阶建模中数据压缩与神经网络学习误差之间的相互作用。
• 在真实世界测试案例（可压缩喷流和Madden-Julian振荡）上展示该方法的有效性。

提出的方法

• 首先从快照中减去平均流，以分离数据中的脉动分量。
• 对脉动数据应用SPOD，通过奇异值分解和斜投影，提取频率分辨的正交模态基。
• 通过斜投影将快照投影到SPOD模态上，计算时间依赖的系数，形成潜在空间表示。
• 使用LSTM网络对时间系数进行训练，以学习并预测其随时间的演化。
• 通过将学习到的系数与预先计算的SPOD模态相结合，重建高维数据。
• 在两个测试案例上验证该框架：可压缩喷流和Madden-Julian振荡，并与POD基模型进行比较。

实验结果

研究问题

• RQ1 对于拟稳态系统，基于SPOD的潜在空间学习与基于POD的学习在投影误差和学习误差方面有何比较？
• RQ2 循环神经网络能否有效学习SPOD系数的时间演化，特别是对具有特定频率范围的现象？
• RQ3 保留的SPOD模态数量对模型学习误差和重建精度有何影响？
• RQ4 考虑到更大的潜在空间维数，基于SPOD的建模与基于POD的建模在计算成本方面有何比较？
• RQ5 与标准POD相比，SPOD框架在建模特定频率动力学方面有多大程度的改进？

主要发现

• 由于基更精细且更大，SPOD基模型的投影误差低于POD基模型，能更准确地捕捉特定频率的动力学。
• SPOD潜在空间中的系数表现出更复杂的时间行为，相比POD具有更少的谐波规律性，导致学习误差更高。
• SPOD模型的学习误差随保留模态数量的增加而上升，表明准确度与模型复杂度之间存在权衡。
• 尽管计算成本更高，SPOD模型在具有明显频率带的物理现象（如Madden-Julian振荡）中提供了更好的重建保真度。
• 该方法稳定且非侵入式，能够通过学习到的潜在空间演化准确预测未见的动力学行为。
• 该框架具有通用性，可扩展至其他神经网络架构，或与基于AI的潜在空间发现方法（如自编码器）结合使用。