[论文解读] Physics-Informed Machine Learning with Conditional Karhunen-Loève Expansions

Alexandre M. Tartakovsky, David A. Barajas‐Solano+1 more|arXiv (Cornell University)|Dec 4, 2019

Model Reduction and Neural Networks参考文献 45被引用 4

一句话总结

该论文提出 PICKLE，一种物理信息机器学习方法，利用条件 Karhunen-Loève 展开（cKLEs）从稀疏测量中重建空间异质参数与状态。通过将 KLEs 条件化于观测数据并最小化 PDE 残差范数，PICKLE 在连续性和粗糙场中均优于 MAP 和 PINN 方法，尤其在不连续场中表现更优。

ABSTRACT

We present a new physics-informed machine learning approach for the inversion of PDE models with heterogeneous parameters. In our approach, the space-dependent partially-observed parameters and states are approximated via Karhunen-Loève expansions (KLEs). Each of these KLEs is then conditioned on their corresponding measurements, resulting in low-dimensional models of the parameters and states that resolve observed data. Finally, the coefficients of the KLEs are estimated by minimizing the norm of the residual of the PDE model evaluated at a finite set of points in the computational domain, ensuring that the reconstructed parameters and states are consistent with both the observations and the PDE model to an arbitrary level of accuracy. In our approach, KLEs are constructed using the eigendecomposition of covariance models of spatial variability. For the model parameters, we employ a parameterized covariance model calibrated on parameter observations; for the model states, the covariance is estimated from a number of forward simulations of the PDE model corresponding to realizations of the parameters drawn from their KLE. We apply the proposed approach to identifying heterogeneous log-diffusion coefficients in diffusion equations from spatially sparse measurements of the log-diffusion coefficient and the solution of the diffusion equation. We find that the proposed approach compares favorably against state-of-the-art point estimates such as maximum a posteriori estimation and physics-informed neural networks.

研究动机与目标

• 从稀疏、噪声测量中解决 PDE 模型中空间依赖参数与状态的反问题。
• 通过低维、数据一致的参数化方法克服 PDE 约束反问题的不适定性。
• 开发一种方法，确保对观测数据和底层 PDE 模型的一致性，达到任意精度。
• 在重建具有复杂空间变异性（包括不连续性）的场时，优于现有方法如 MAP 和物理信息神经网络（PINNs）。
• 无论其潜在统计分布如何，包括非高斯场，均能实现对参数与状态的鲁棒估计。

提出的方法

• 使用 Karhunen-Loève 展开（KLEs）近似空间异质参数与状态，将随机场表示为由协方差算子导出的特征函数的加权和。
• 通过条件高斯过程对 KLEs 进行条件化，得到精确满足观测数据的 cKLEs。
• 使用参数化核函数（如 Matérn 核）校准观测参数数据，构建参数协方差模型。
• 通过从参数的 cKLE 表示中抽样实现的参数实现，利用前向 PDE 模拟估计状态协方差。
• 通过最小化在有限个配点上评估的 PDE 残差的 L2 范数，优化 cKLE 系数，以强制满足 PDE 一致性。
• 采用正则化优化框架，目标函数结合了数据不拟合项（按观测误差协方差加权）与 PDE 残差最小化。

实验结果

研究问题

• RQ1 与标准 MAP 估计相比，基于 cKLE 的参数化是否能提升稀疏、噪声测量下 PDE 反问题的重建精度？
• RQ2 PICKLE 方法在重建违反高斯假设的不连续或粗糙空间场时表现如何？
• RQ3 在数据有限条件下，cKLE 表示在捕捉具有空间相关性的场方面，与深度神经网络（如 PINNs）相比优势有多大？
• RQ4 PICKLE 的精度对参数和状态测量的质量与数量有多敏感？
• RQ5 当底层场非高斯时，cKLE 是否能有效建模非高斯场，如不连续的扩散系数或有界域解？

主要发现

• PICKLE 将估计不连续对数扩散系数的相对 ℓ₁ 误差降低至 0.179，比 MAP 估计的误差 0.380 低两倍以上。
• 对于连续、粗糙的对数扩散场，PICKLE 的精度高于最大后验估计（MAP）和物理信息神经网络（PINNs）。
• 该方法成功重建了具有非高斯统计特性的场，包括不连续导电率场和有界域解，且无需假设高斯分布。
• PICKLE 的精度依赖于估计的参数协方差的保真度，随着测量数量增加而提升。
• 可通过迁移学习从相似系统估计参数协方差，实现在具有相似空间变异性特征的领域间泛化。
• 在数据稀缺条件下，cKLE 比神经网络提供了更有效的空间场低维表示，因其具有内在的物理一致性和结构优势。