[论文解读] Fourier-MIONet: Fourier-enhanced multiple-input neural operators for multiphase modeling of geological carbon sequestration

Zhongyi Jiang, Min Zhu+1 more|arXiv (Cornell University)|Mar 8, 2023

CO2 Sequestration and Geologic InteractionsEnvironmental Science被引用 3

一句话总结

该论文提出了一种傅里叶增强的多输入神经算子（Fourier-MIONet），可高效学习多孔介质中多相流的解算子，适用于地质碳封存。通过将U-Fourier神经算子（U-FNO）集成到MIONet框架中，该方法在保持高精度和泛化能力的同时，相比U-FNO将参数量减少90%，训练速度提升3.5倍，并将CPU内存使用降低85%，GPU内存使用降低64%。其关键优势在于仅使用六个时间快照即可预测长达30年的模拟结果，这得益于PDE解的时间物理连续性。

ABSTRACT

Geologic carbon sequestration (GCS) is a safety-critical technology that aims to reduce the amount of carbon dioxide in the atmosphere, which also places high demands on reliability. Multiphase flow in porous media is essential to understand CO$_2$ migration and pressure fields in the subsurface associated with GCS. However, numerical simulation for such problems in 4D is computationally challenging and expensive, due to the multiphysics and multiscale nature of the highly nonlinear governing partial differential equations (PDEs). It prevents us from considering multiple subsurface scenarios and conducting real-time optimization. Here, we develop a Fourier-enhanced multiple-input neural operator (Fourier-MIONet) to learn the solution operator of the problem of multiphase flow in porous media. Fourier-MIONet utilizes the recently developed framework of the multiple-input deep neural operators (MIONet) and incorporates the Fourier neural operator (FNO) in the network architecture. Once Fourier-MIONet is trained, it can predict the evolution of saturation and pressure of the multiphase flow under various reservoir conditions, such as permeability and porosity heterogeneity, anisotropy, injection configurations, and multiphase flow properties. Compared to the enhanced FNO (U-FNO), the proposed Fourier-MIONet has 90% fewer unknown parameters, and it can be trained in significantly less time (about 3.5 times faster) with much lower CPU memory ($<$ 15%) and GPU memory ($<$ 35%) requirements, to achieve similar prediction accuracy. In addition to the lower computational cost, Fourier-MIONet can be trained with only 6 snapshots of time to predict the PDE solutions for 30 years. The excellent generalizability of Fourier-MIONet is enabled by its adherence to the physical principle that the solution to a PDE is continuous over time.

研究动机与目标

• 解决传统储层模拟器及现有深度学习模型在模拟多孔介质中多相流时计算成本高、数据效率低的问题。
• 开发一种代理模型，实现在不同注入条件和岩石物性下，对非均质、各向异性储层中CO2迁移与压力场的实时预测。
• 在保持长期模拟（如30年）高精度的前提下，减少训练数据需求和计算资源消耗。
• 通过利用PDE解在时间上的物理连续性，提升对未见时间点的泛化能力。
• 实现可扩展的、低内存消耗的4D（3D空间+时间）多相流问题在大规模地质构造中的推理。

提出的方法

• 将多输入神经算子（MIONet）框架与U-Fourier神经算子（U-FNO）结合，以处理不同域上的多个输入函数（如渗透率、孔隙度、注入速率）。
• 采用主干网络对输入函数进行编码，并通过基于傅里叶的融合网络（使用3D或2D FFT）在频域中学习解算子。
• 采用非均匀时间采样策略，早期时间点采样更密集，后期更稀疏，以提升对未见时间点的泛化能力。
• 利用PDE解在时间上连续的物理原理，增强模型泛化能力，而无需额外数据。
• 仅使用每个模拟案例六个时间快照进行训练，显著降低数据与计算需求。
• 通过在主干网络中联合编码z坐标与时间，使用2D FFT替代4D FFT，优化内存使用。

实验结果

研究问题

• RQ1 能否设计一种深度神经算子，以高效且准确地模拟地质碳封存中非均质多孔介质的长期多相流？
• RQ2 如何在不牺牲预测精度的前提下，降低4D PDE模拟中的计算成本与数据需求？
• RQ3 非均匀时间采样是否能提升PDE解学习中对未见时间点的泛化能力？
• RQ4 在最小化训练数据的前提下，PDE解的时间物理连续性可在多大程度上被利用以增强模型泛化能力？
• RQ5 与最先进模型相比，所提出的架构在大规模3D+时间问题中是否能实现显著降低的内存与参数使用量？

主要发现

• 与U-FNO相比，Fourier-MIONet将可训练参数数量减少了90%，参数量从4667万降至468万。
• 模型的CPU内存使用量较U-FNO降低85%，GPU内存使用量降低64%，GPU内存使用率降至基线的30%以下。
• 训练速度比U-FNO快3.5倍，24 GiB GPU即可高效训练该模型。
• 模型在压力上升预测中R²达到0.986，即使仅使用六个时间快照进行训练，仍保持高精度。
• 采用早期密集、后期稀疏的非均匀时间采样策略，可在已见与未见时间点均实现准确预测。
• Fourier-MIONet的2D FFT变体将参数量降至原始FNO的3.3%，GPU内存使用量降至14.7%，展现出在4D问题中的强大潜力。