[论文解读] Frame-independent vector-cloud neural network for nonlocal constitutive modeling on arbitrary grids

Xu‐Hui Zhou, Jiequn Han+1 more|arXiv (Cornell University)|Mar 11, 2021

Model Reduction and Neural Networks参考文献 87被引用 27

一句话总结

该论文提出了一种与参考系无关的向量云神经网络，用于在任意网格上进行非局部本构建模，采用对称性不变的架构，确保对平移、旋转和点序的不变性。该方法在非结构化网格上实现了鲁棒的、数据驱动的PDE闭合建模，展示了在周期性山丘几何结构上的标量输运问题中具有优异的泛化能力和计算效率的高精度表现。

ABSTRACT

Constitutive models are widely used for modeling complex systems in science and engineering, where first-principle-based, well-resolved simulations are often prohibitively expensive. For example, in fluid dynamics, constitutive models are required to describe nonlocal, unresolved physics such as turbulence and laminar-turbulent transition. However, traditional constitutive models based on partial differential equations (PDEs) often lack robustness and are too rigid to accommodate diverse calibration datasets. We propose a frame-independent, nonlocal constitutive model based on a vector-cloud neural network that can be learned with data. The model predicts the closure variable at a point based on the flow information in its neighborhood. Such nonlocal information is represented by a group of points, each having a feature vector attached to it, and thus the input is referred to as vector cloud. The cloud is mapped to the closure variable through a frame-independent neural network, invariant both to coordinate translation and rotation and to the ordering of points in the cloud. As such, the network can deal with any number of arbitrarily arranged grid points and thus is suitable for unstructured meshes in fluid simulations. The merits of the proposed network are demonstrated for scalar transport PDEs on a family of parameterized periodic hill geometries. The vector-cloud neural network is a promising tool not only as nonlocal constitutive models and but also as general surrogate models for PDEs on irregular domains.

研究动机与目标

• 开发一种对多样化校准数据集具有鲁棒性的非局部、数据驱动本构模型，并可应用于非结构化网格。
• 在基于神经网络的物理系统本构建模中，确保参考系无关性（对平移、旋转和伽利略变换不变）。
• 通过向量云表示实现区域到点的映射，以捕捉湍流和对流等非局部物理效应。
• 克服传统基于PDE的闭合模型的局限性，这些模型结构僵化，难以在复杂流态下校准。
• 为不规则区域上的PDE创建一种通用的代理模型，其计算复杂度在邻域大小上呈线性增长。

提出的方法

• 将非局部流信息表示为向量云：一组围绕目标点的点及其关联的特征向量（坐标、速度、标量量）。
• 通过平移/旋转不变操作的组合构建不变特征矩阵 D：G⊤QQ⊤G⋆，其中 G 是标量特征的嵌入，Q 是输入数据矩阵。
• 使用嵌入网络将标量特征 ci 映射到 m 维向量，通过在各点上共享且相同的处理过程确保不变性。
• 对不变特征矩阵 D ∈ ℝ^{m×m′} 应用拟合网络（全连接网络），以预测目标点处的闭合变量 τ。
• 通过对称聚合（例如，对点索引取平均）强制实现排列不变性，确保对云中点序的独立性。
• 使用 Adam 优化器进行训练，训练 2000 个周期，批量大小为 1024，并采用学习率衰减策略（每 600 个周期衰减为 0.7）。

实验结果

研究问题

• RQ1 能否在保持物理解一致性的同时，使用于本构建模的深度学习模型对坐标系变换（平移、旋转、伽利略变换）保持不变？
• RQ2 如何在非结构化网格中利用神经网络有效建模非局部的区域到点映射？
• RQ3 数据驱动的、与参考系无关的神经网络能否在不同流态配置和参数化几何结构上实现良好泛化？
• RQ4 为确保在向量云表示中对点序和坐标系选择的不变性，需要哪些架构组件？
• RQ5 所提出的模型在复杂、非周期性流场域上，相较于传统基于PDE的闭合模型，在精度和鲁棒性方面有多大程度的提升？

主要发现

• 所提出的向量云神经网络通过不变操作的组合实现了参考系无关性，确保对平移、旋转和点序的不变性。
• 该模型在一族参数化周期性山丘几何结构上的标量输运PDE闭合变量预测中表现出高精度，即使在不同网格质量和流态条件下也表现稳定。
• 该方法在云中点数上具有线性计算复杂度，可在大邻域中实现高效推理。
• 通过不变特征矩阵 D 编码空间相关性，该架构成功学习了非局部物理效应，如对流和扩散。
• 该模型在不同参数化流态配置间表现出良好的泛化能力，表明其作为不规则区域上PDE代理模型具有强大潜力。
• 训练过程在学习率调度下收敛稳定，多次运行和不同几何结构下均表现出一致的性能。