[论文解读] Maximum Entropy Snapshot Sampling for Reduced Basis Generation

Fotios Kasolis, Markus Clemens|arXiv (Cornell University)|May 4, 2020

Model Reduction and Neural Networks参考文献 20被引用 5

一句话总结

本文提出最大熵快照采样（MESS），一种计算高效、内存友好的方法，用于在动力系统中选择具有信息量的快照以生成降维基底。通过利用熵估计和遍历性特性，MESS 能够识别出一组最小的快照，以保留系统动力学特性，与 SVD 相比，离线计算时间最多减少 84%，同时保持相近的精度。

ABSTRACT

Snapshot back-ended reduced basis methods for dynamical systems commonly rely on the singular value decomposition of a matrix whose columns are high-fidelity solution vectors. An alternative basis generation framework is developed here. The advocated maximum entropy snapshot sampling (MESS) identifies the snapshots that encode essential information regarding the system's evolution, by exploiting quantities that are suitable for quantifying a notion of dynamical stability. The maximum entropy snapshot sampling enables a direct reduction of the number of snapshots. A reduced basis is then obtained with any orthonormalization process on the resulting reduced sample of snapshots. The maximum entropy sampling strategy is supported by rigid mathematical foundations, it is computationally efficient, and it is inherently automated and easy to implement.

研究动机与目标

• 为解决大规模动力系统中使用全快照矩阵进行 SVD 时产生的高计算成本问题。
• 开发一种采样策略，以减少基底生成所需的快照数量，同时不损失精度。
• 提供一种数学上严谨、自动化的递归方法，可无缝集成至高保真求解器中。
• 实现大规模问题（尤其是三维有限元离散化）的高效模型降阶，其中 SVD 因内存和时间限制而变得不可行。

提出的方法

• MESS 基于最大化不变 Kolmogorov-Sinai 熵的估计值来选择快照，且该估计值随时间严格递增。
• 该方法使用 Grassberger-Procaccia 相关和的离散近似来估计快照之间成对距离的熵。
• 采用遍历性量化分析以评估动力学稳定性，并辅助熵估计。
• 采样过程为递归且天然在线，允许与高保真求解器集成，避免存储所有快照。
• 快照选择后，可使用任意正交化方法（如 QR 分解）生成最终的降维基底。
• 该方法受到一个理论上的时域不等式支持，可将误差以系统遍历性特性为条件进行界定。

实验结果

研究问题

• RQ1 基于熵最大化的采样策略是否在计算效率和基底质量方面优于均匀采样或基于 SVD 的采样？
• RQ2 最大熵快照采样方法是否能提供与问题具体结构无关的可证明误差界？
• RQ3 MESS 是否能在保持与 SVD 相当精度的前提下，减少基底生成所需的快照数量？
• RQ4 MESS 是否在大规模问题中具备可扩展性和实用性，尤其是在 SVD 计算成本过高时？
• RQ5 MESS 的递归、在线特性如何影响内存使用情况，并影响其与时间推进求解器的集成？

主要发现

• 在 Brusselator 模型中，MESS 在 ε = 0.05 时将 CPU 时间减少了 84%（从 53 秒降至 8.4 秒），基底大小仅略有增加（ℓ_MESS = 85，ℓ_SVD = 50）。
• 在电准静态问题中，MESS 在 ε = 0.05 时将时间减少了 67%（1.1 秒 vs. 0.36 秒），在中等规模问题上表现出色。
• 在具有 40,002 个自由度的二极管链模型中，MESS 以 ℓ = 31 个基底向量实现了与 SVD 相同的精度，但离线时间仅为 SVD 的 1/8.9。
• 在所有测试案例中，MESS 均显著优于 SVD 的计算时间，不同问题规模下的时间比 t_MESS/t_SVD 分别为 0.42、0.25 和 0.16。
• 该方法在保持数值稳定性和精度的同时，显著降低了基底维度，相对欧氏误差图验证了这一点。
• MESS 天然具备内存效率，可与高保真求解器并行运行，实现实时基底生成，而无需存储所有快照。