[论文解读] Learning Algorithms for Coarsening Uncertainty Space and Applications to Multiscale Simulations

Zecheng Zhang, Eric T. Chung+2 more|arXiv (Cornell University)|Apr 9, 2020

Advanced Mathematical Modeling in Engineering参考文献 47被引用 4

一句话总结

本文提出一种基于深度学习的方法，用于在多尺度随机PDE中对不确定性空间进行降阶处理，利用带有对抗训练和多组分损失函数的卷积神经网络，学习渗透率场的聚类。该方法通过实现跨实现的快速基函数选择，降低计算成本，在使用11个聚类时达到接近最优的精度，性能与传统GMsFEM相当，同时显著加速训练过程。

ABSTRACT

In this paper, we investigate and design multiscale simulations for stochastic multiscale PDEs. As for the space, we consider a coarse grid and a known multiscale method, the Generalized Multiscale Finite Element Method (GMsFEM). In order to obtain a small dimensional representation of the solution in each coarse block, the uncertainty space needs to be partitioned (coarsened). This coarsening collects realizations that provide similar multiscale features as outlined in GMsFEM (or other method of choice). This step is known to be computationally demanding as it requires many local solves and clustering based on them. In this paper, we take a different approach and learn coarsening the uncertainty space. Our methods use deep learning techniques in identifying clusters(coarsening) in the uncertainty space. We use convolutional neural networks combined with some techniques in adversary neural networks. We define appropriate loss functions in the proposed neural networks, where the loss function is composed of several parts that includes terms related to clusters and reconstruction of basis functions. We present numerical results for channelized permeability fields in the examples of flows in porous media.

研究动机与目标

• 解决在多孔介质流中为大量随机实现生成多尺度基函数所带来的高计算成本问题。
• 克服传统聚类方法依赖昂贵的局部求解和解之间距离度量的局限性。
• 开发一种数据驱动的可学习框架，通过识别异质渗透率场的代表性聚类，对不确定性空间进行降阶。
• 在学习过程中引入多尺度基函数作为监督信号，确保聚类能反映物理解的特征。
• 通过为代表性聚类预先计算基函数，实现在不同实现间的快速模拟，从而显著降低在线计算成本。

提出的方法

• 采用条件生成模型，输入为渗透率场，输出为对应的多尺度基函数。
• 设计包含重建损失、聚类损失和对抗损失的多组分损失函数，引导潜在空间形成具有物理意义的聚类。
• 采用类似U-Net的编码器-解码器架构，结合卷积层提取特征，并从潜在空间重建基函数。
• 引入对抗网络，通过判别器网络提升生成基函数的质量，增强其真实性。
• 通过使用参考块的参数初始化每个粗化块的网络，应用迁移学习，显著缩短训练时间。
• 使用随机梯度下降端到端训练模型，同时优化基函数重建的准确性与输入渗透率场的有效聚类。

实验结果

研究问题

• RQ1 是否可以不依赖显式聚类或局部求解，仅通过深度学习实现多尺度随机PDE中不确定性空间的降阶？
• RQ2 将多尺度基函数作为监督信号引入学习过程，如何提升不确定性空间中所学聚类的质量？
• RQ3 与标准自编码器训练相比，对抗训练在多大程度上提升了所学多尺度基函数的保真度？
• RQ4 聚类数量对GMsFEM模拟中降阶模型精度的影响如何？
• RQ5 在粗化块之间应用迁移学习，是否能显著减少训练时间，同时保持解的精度？

主要发现

• 随着聚类数量的增加，GMsFEM解的$L_2$相对误差减小，尤其在5到11个聚类之间出现显著下降。
• 使用11个聚类时，基于聚类的方法达到的$L_2$相对误差与使用特定实现的传统GMsFEM方法相当，表明精度损失可忽略不计。
• 引入对抗损失后，所学基函数与真实基函数之间的MSE从0.9073400降至0.748312，显著提升了基函数的保真度。
• 应用对抗训练后，$L_2$相对误差从41.120439降至36.760918，证明了生成损失的有效性。
• 采用迁移学习通过使用参考块的参数初始化网络，显著加快了各粗化块的训练速度，降低了计算开销。
• 所提方法通过为代表性聚类预先计算基函数，实现在大量实现间的快速模拟，显著降低了在线计算成本。