[论文解读] LaSDI: Parametric Latent Space Dynamics Identification

William Fries, Xiaolong He+1 more|arXiv (Cornell University)|Mar 4, 2022

Model Reduction and Neural Networks被引用 5

一句话总结

LaSDI 提出了一种非侵入式、数据驱动的框架，通过在局部模型中引入交互机制来学习潜在空间动力学，实现了快速且精确的参数化物理仿真。在使用线性（POD）或非线性（自编码器）压缩以及点对点或区域插值方法时，LaSDI 在 Burgers' 方程、热传导和径向对流问题上均实现了相较于全阶模型 O(100)× 的加速和 O(1)% 的相对误差。

ABSTRACT

Enabling fast and accurate physical simulations with data has become an important area of computational physics to aid in inverse problems, design-optimization, uncertainty quantification, and other various decision-making applications. This paper presents a data-driven framework for parametric latent space dynamics identification procedure that enables fast and accurate simulations. The parametric model is achieved by building a set of local latent space model and designing an interaction among them. An individual local latent space dynamics model achieves accurate solution in a trust region. By letting the set of trust region to cover the whole parameter space, our model shows an increase in accuracy with an increase in training data. We introduce two different types of interaction mechanisms, i.e., point-wise and region-based approach. Both linear and nonlinear data compression techniques are used. We illustrate the framework of Latent Space Dynamics Identification (LaSDI) enable a fast and accurate solution process on various partial differential equations, i.e., Burgers' equations, radial advection problem, and nonlinear heat conduction problem, achieving $O(100)$x speed-up and $O(1)\%$ relative error with respect to the corresponding full order models.

研究动机与目标

• 解决在反问题和设计优化等决策应用中高保真物理仿真计算不可行的问题。
• 开发一种非侵入式模型降阶方法，无需访问高保真求解器的源代码。
• 通过在压缩的潜在空间中学习动力学，提升对黑箱代理模型的可解释性和泛化能力。
• 实现对多样化参数化 PDE 问题的高精度仿真，支持可扩展的训练数据和自适应模型结构。
• 通过引入具有交互机制的局部潜在空间动力学，克服全局模型的局限性，提升精度和鲁棒性。

提出的方法

• 使用本征正交分解（POD）进行线性压缩，或使用自编码器进行非线性压缩，构建局部潜在空间动力学模型。
• 通过点对点或区域插值方法，将局部模型组合为参数空间中的全局参数化预测。
• 使用回归技术识别潜在空间中的动力学，从训练数据中学习时间演化过程。
• 设计局部模型之间的交互机制，确保在整个参数域内实现平滑过渡和高精度。
• 使用均匀分布的训练参数进行模型训练，性能通过相对误差和加速比指标进行评估。
• 基于 Kolmogorov 宽度衰减特性，比较线性（POD）与非线性（自编码器）压缩技术的性能。

实验结果

研究问题

• RQ1 当训练数据稀疏时，局部潜在空间动力学模型是否能在精度上优于全局模型？
• RQ2 点对点与区域插值机制在参数空间中保持精度与平滑性方面有何差异？
• RQ3 在何种条件下，非线性压缩（自编码器）在潜在空间表示中优于线性压缩（POD）？
• RQ4 训练样本数量如何影响局部与全局动力学识别模型的性能？
• RQ5 LaSDI 框架是否能在 Kolmogorov 宽度衰减缓慢的问题上保持低误差和高加速比，实现良好泛化？

主要发现

• LaSDI 在 1D 和 2D Burgers' 方程、径向对流和非线性热传导问题上，相较于全阶模型实现了 O(100)× 的加速和 O(1)% 的相对误差。
• 对于 Kolmogorov 宽度衰减缓慢的问题，通过自编码器实现的非线性压缩比 POD 更有效地降低了投影误差，即使在潜在维数较小时也表现更优。
• 当奇异值衰减迅速时，线性压缩（POD）在精度上优于非线性压缩，且计算速度显著更快。
• 采用区域插值或点对点插值的局部动力学识别模型在训练数据稀疏的情况下（如 1D Burgers 仅 9 个训练点，2D Burgers 仅 25 个训练点）优于全局模型。
• 局部模型的性能依赖于训练数据密度：更大的局部区域或更多训练点可提升精度，尤其在高维参数空间中效果更明显。
• 该框架具有良好的泛化能力且非侵入，可应用于仿真数据甚至实验视频数据，通过正则化技术可进一步拓展至含噪声或不完美数据的情形。