[论文解读] Applying Convolutional Neural Networks to Data on Unstructured Meshes with Space-Filling Curves

Claire E. Heaney, Yuling Li+2 more|arXiv (Cornell University)|Nov 24, 2020

Model Reduction and Neural Networks被引用 5

一句话总结

本论文提出一种新颖方法，通过利用空间填充曲线（SFCs）将非结构化网格的节点或单元重新排序为一维序列，从而直接将经典的一维卷积神经网络（CNNs）应用于非结构化网格数据。该方法在非结构化有限元网格上实现了复杂流体动力学解的高精度压缩与重建，性能与在结构化网格上应用的经典CNN相当，且通过使用多个SFC和稀疏平滑层提升了鲁棒性。

ABSTRACT

This paper presents the first classical Convolutional Neural Network (CNN) that can be applied directly to data from unstructured finite element meshes or control volume grids. CNNs have been hugely influential in the areas of image classification and image compression, both of which typically deal with data on structured grids. Unstructured meshes are frequently used to solve partial differential equations and are particularly suitable for problems that require the mesh to conform to complex geometries or for problems that require variable mesh resolution. Central to the approach are space-filling curves, which traverse the nodes or cells of a mesh tracing out a path that is as short as possible (in terms of numbers of edges) and that visits each node or cell exactly once. The space-filling curves (SFCs) are used to find an ordering of the nodes or cells that can transform multi-dimensional solutions on unstructured meshes into a one-dimensional (1D) representation, to which 1D convolutional layers can then be applied. Although developed in two dimensions, the approach is applicable to higher dimensional problems. To demonstrate the approach, the network we choose is a convolutional autoencoder (CAE) although other types of CNN could be used. The approach is tested by applying CAEs to data sets that have been reordered with an SFC. Sparse layers are used at the input and output of the autoencoder, and the use of multiple SFCs is explored. We compare the accuracy of the SFC-based CAE with that of a classical CAE applied to two idealised problems on structured meshes, and then apply the approach to solutions of flow past a cylinder obtained using the finite-element method and an unstructured mesh.

研究动机与目标

• 使经典卷积神经网络（CNNs）能够直接应用于非结构化有限元或控制体积网格上的数据，这类网格在计算流体动力学（CFD）中常见，但因缺乏结构而无法与标准CNN兼容。
• 通过将非结构化网格数据转换为保留空间局部性和连通性的的一维表示，克服基于插值或图神经网络的替代方法的局限性。
• 评估基于SFC的CNN在非结构化网格数据上的性能，特别是针对自适应非结构化网格上纳维-斯托克斯方程解的压缩与重建。
• 研究使用多个SFC和稀疏平滑层对自编码器在重建精度和降噪方面的影响。
• 为将基于SFC的CNN应用于时间依赖、自适应及三维问题奠定基础，包括潜在的迁移学习和网格插值。

提出的方法

• 使用空间填充曲线（SFCs）遍历非结构化网格的所有节点或单元，路径设计旨在最小化边数并确保每个节点仅被访问一次，从而将二维或三维网格数据转换为一维序列。
• 将重新排序后的一维数据输入一维卷积自编码器（CAE），使标准CNN层可直接应用于非结构化网格解。
• 探索使用多个SFC以提升表示质量，其理念是不同排序方式可捕捉不同的空间特征。
• 在自编码器的输入和输出端引入稀疏层，以减少噪声并提高重建保真度。
• 通过将基于SFC的CAE与在结构化和非结构化网格数据上运行的经典CAE进行对比，验证该方法的有效性，包括柱体绕流模拟。
• 通过在四维空间（三维空间+时间）应用SFC，该方法可扩展至三维和时间依赖问题。

实验结果

研究问题

• RQ1 能否通过使用空间填充曲线重排网格，有效将经典的一维CNN应用于非结构化网格数据？
• RQ2 使用多个SFC如何影响自编码器在压缩和重建非结构化网格解时的精度与鲁棒性？
• RQ3 当应用于非结构化网格时，基于SFC的方法是否能保持与经典CNN相当的重建精度，特别是在高分辨率区域或复杂几何区域？
• RQ4 在自编码器输入和输出端的稀疏平滑层是否能减少噪声并提升非结构化网格数据的重建质量？
• RQ5 基于SFC的CNN框架在多大程度上可扩展至时间依赖或自适应网格？其在网格插值或迁移学习方面可能发挥何种作用？

主要发现

• 基于SFC的CAE在结构化网格数据上的重建精度与经典CAE相当，验证了其在非结构化网格上应用的有效性。
• 该方法成功将非结构化网格上多达50,000个变量的解压缩至仅一个潜在变量，同时保留了解的关键特征。
• 使用两个SFC（SFC2）的性能优于仅使用一个SFC，表明多种排序方式可增强特征表示能力。
• 在输入和输出端的稀疏平滑层显著降低了重建解中的噪声，提升了保真度，且未增加模型复杂度。
• 箱线图显示，随着压缩率降低，误差范围未出现显著增加，表明在极低潜在维度下仍保持稳定性能。
• 由于测试问题具有时间周期性，该方法在训练、验证和测试集上均表现鲁棒，表明其具备良好的泛化潜力。