[论文解读] Conditionally Parameterized, Discretization-Aware Neural Networks for Mesh-Based Modeling of Physical Systems

Jiayang Xu, Aniruddhe Pradhan+1 more|arXiv (Cornell University)|Sep 15, 2021

Model Reduction and Neural Networks被引用 12

一句话总结

该论文提出了一种条件化参数化、离散化感知的神经网络——具体为CP-GNet——用于基于网格的物理系统建模。通过利用依赖于输入的、可训练的权重生成机制，结合物理和几何特征，该方法能够在非结构化网格上实现对复杂PDE的高精度、可泛化的模拟，仅需极少数据即可达到最先进性能，并在网格畸变和边界复杂性方面表现出卓越的鲁棒性。

ABSTRACT

Simulations of complex physical systems are typically realized by discretizing partial differential equations (PDEs) on unstructured meshes. While neural networks have recently been explored for surrogate and reduced order modeling of PDE solutions, they often ignore interactions or hierarchical relations between input features, and process them as concatenated mixtures. We generalize the idea of conditional parameterization -- using trainable functions of input parameters to generate the weights of a neural network, and extend them in a flexible way to encode critical information. Inspired by discretized numerical methods, choices of the parameters include physical quantities and mesh topology features. The functional relation between the modeled features and the parameters is built into the network architecture. The method is implemented on different networks and applied to frontier scientific machine learning tasks including the discovery of unmodeled physics, super-resolution of coarse fields, and the simulation of unsteady flows with chemical reactions. The results show that the conditionally-parameterized networks provide superior performance compared to their traditional counterparts. The CP-GNet - an architecture that can be trained on very few data snapshots - is proposed as the first deep learning model capable of standalone prediction of reacting flows on irregular meshes.

研究动机与目标

• 为解决标准神经网络在非结构化网格上建模物理系统时的局限性，特别是其在不同几何形状间泛化能力差以及未能编码分层物理关系的问题。
• 通过将物理量和离散化信息直接嵌入网络权重中，实现条件化参数化，从而提升基于网格的PDE模拟中的学习效率与精度。
• 开发一种独立的深度学习模型，能够在极少训练数据下对不规则网格上的复杂反应流进行预测。
• 实现在不同网格分辨率和复杂边界条件（包括不规则几何形状和多种边界类型）下的鲁棒性能，而标准模型在此类条件下往往失效。

提出的方法

• 采用条件化参数化（CP）机制，通过输入参数的可训练函数生成网络权重，替代标准层中的固定权重。
• 将CP应用于图神经网络（GNN），使节点或边特征决定后续层的权重，从而实现对物理和几何特征的分层建模。
• 采用多层感知机（MLP）作为权重生成函数，使网络能够学习输入参数与层权重之间的函数依赖关系。
• 通过将网格拓扑、物理量（如速度、压力）和边界条件直接编码到权重生成过程中，实现离散化感知设计。
• 提出CP-GNet，一种利用条件化参数化的GNN架构，可在无需暴力拟合的情况下建模高阶项和复杂物理现象（如化学反应）。
• 支持将标准全连接层或GNN层无缝替换为CP-Dense或CP-GNN层，在保持模型结构的同时增强表达能力。

实验结果

研究问题

• RQ1 与标准神经网络相比，条件化参数化是否能提升在基于网格的物理系统建模中的泛化能力和性能？
• RQ2 CP-GNet能否在仅使用少量训练数据的情况下，准确预测在不规则、畸变网格上的非定常反应流？
• RQ3 将离散化信息和物理信息直接嵌入网络权重是否能带来对高阶项和复杂物理现象更好的学习效果？
• RQ4 与基线模型相比，CP-GNet在超分辨率和粗粒化任务中的表现如何？
• RQ5 在标准模型失效的场景下，CP-GNet能否在不同网格密度和复杂边界条件下保持精度？

主要发现

• CP-GNet在不规则网格上预测反应流方面达到最先进性能，在仅使用极少数据的情况下，可保持超过400步预测的高精度。
• 即使仅使用10%的训练数据（CP-GNet10S），该模型在长期预测中仍优于参数量更大的非CP GNet（180万参数）。
• 参数量为130万的CP-GNet（CP-GNet5L）在性能上与更深的非CP GNet15L（180万参数）相当或更优。
• 在高网格畸变区域或复杂边界附近，模型未出现显著误差增加，而相比之下非CP模型在内角区域表现出巨大误差。
• CP-GNet成功捕捉了数百步内的复杂燃烧动力学，包括相位偏移和反应前沿，且预测稳定、准确。
• 该方法可通过简单的CP层精确拟合离散化PDE项（如二次项），展示了与数值方法的理论一致性。