[论文解读] Accelerating PDE-constrained Inverse Solutions with Deep Learning and Reduced Order Models

Sheroze Sheriffdeen, Jean C. Ragusa+3 more|arXiv (Cornell University)|Dec 17, 2019

Model Reduction and Neural Networks参考文献 22被引用 16

一句话总结

本文提出了一种深度学习增强的降阶模型（DL-ROM），通过学习投影型降阶模型（ROM）相对于高保真偏微分方程（PDE）解的误差，显著提升了精度，同时保持了物理一致性。该方法加速了PDE约束的反演问题，在实现接近高保真精度的同时，将计算速度提升数个数量级，已在椭圆型PDE和中子输运问题上得到验证，相对误差降低至0.01%。

ABSTRACT

Inverse problems are pervasive mathematical methods in inferring knowledge from observational and experimental data by leveraging simulations and models. Unlike direct inference methods, inverse problem approaches typically require many forward model solves usually governed by Partial Differential Equations (PDEs). This a crucial bottleneck in determining the feasibility of such methods. While machine learning (ML) methods, such as deep neural networks (DNNs), can be employed to learn nonlinear forward models, designing a network architecture that preserves accuracy while generalizing to new parameter regimes is a daunting task. Furthermore, due to the computation-expensive nature of forward models, state-of-the-art black-box ML methods would require an unrealistic amount of work in order to obtain an accurate surrogate model. On the other hand, standard Reduced-Order Models (ROMs) accurately capture supposedly important physics of the forward model in the reduced subspaces, but otherwise could be inaccurate elsewhere. In this paper, we propose to enlarge the validity of ROMs and hence improve the accuracy outside the reduced subspaces by incorporating a data-driven ML technique. In particular, we focus on a goal-oriented approach that substantially improves the accuracy of reduced models by learning the error between the forward model and the ROM outputs. Once an ML-enhanced ROM is constructed it can accelerate the performance of solving many-query problems in parametrized forward and inverse problems. Numerical results for inverse problems governed by elliptic PDEs and parametrized neutron transport equations will be presented to support our approach.

研究动机与目标

• 为解决PDE约束反演问题中的计算瓶颈，此类问题需要重复进行高保真正演求解。
• 在不牺牲物理一致性的前提下，将降阶模型（ROM）的精度提升至其固有极限之外。
• 将保持物理特性的ROM与数据驱动的深度学习相结合，利用高保真模拟和观测数据校正ROM的误差。
• 通过加速参数到可观测量映射，实现高效多查询反演问题求解，如参数估计和贝叶斯推断。
• 将物理保真度（来自ROM）与精度增强（来自深度学习）解耦，从而实现稳健且可泛化的代理建模。

提出的方法

• 基于一组降阶基Φ构建投影型降阶模型（ROM），将全阶模型（FOM）投影到低维子空间中，确保物理一致性和计算效率。
• 训练深度神经网络（DNN）以学习在多种参数取值下，ROM解与高保真FOM解之间的差异。
• 采用约束最小二乘法，确保ROM保留守恒性与稳定性等关键物理特性。
• 在由参数输入、对应高保真FOM输出和ROM输出组成的数据库上训练DNN，以学习误差函数 e(u) = FOM(u) - ROM(u)。
• 将训练好的DNN差异函数应用于校正ROM预测，得到DL增强型ROM：FOM ≈ ROM + DNN(e(u))。
• 在多查询问题（包括反演问题）中，用DL增强型ROM替代FOM，从而在保持高精度的同时大幅降低计算成本。

实验结果

研究问题

• RQ1 深度学习模型能否有效校正保持物理特性的降阶模型的误差，从而在多种参数区域内实现高精度？
• RQ2 在PDE约束的反演问题中，DL增强型ROM相较于标准ROM和黑箱深度学习代理模型，在精度与效率方面表现如何？
• RQ3 在中子输运等复杂基准测试中，DL增强型ROM相较于高保真解，能在多大程度上降低关键量的相对误差？
• RQ4 将物理嵌入（通过ROM实现）与精度增强（通过DNN实现）解耦，是否能产生比端到端深度学习更可靠、更具泛化能力的模型？
• RQ5 DL增强型ROM能否在需要大量正演求解的反演问题（如参数估计或贝叶斯推断）中被有效应用？

主要发现

• 在22维ROM中，DL增强型ROM将关键量的相对误差降低至0.010%，而高保真扩散FOM为1.08%，3维ROM则高达114.05%。
• 即使仅使用3个降阶基向量，DL增强型ROM的相对误差也仅为0.86%，显著优于未校正ROM的114.05%误差。
• 该方法在计算成本较全阶模型降低数个数量级的同时，实现了接近高保真精度（0.01%误差）。
• DNN学习到的差异函数有效校正了扩散ROM中的系统性误差，即使ROM本身受限于底层物理近似。
• 该方法通过学习扩散解与输运解之间的差距，优于直接逼近高保真解，其误差建模策略优于直接近似，甚至优于高保真扩散FOM（1.06%误差）。
• DL增强型ROM成功实现了基于稀疏温度观测的热导率重构确定性反演问题的高效求解，验证了其在实际反演场景中的实用性。