[论文解读] Study on a Poisson's Equation Solver Based On Deep Learning Technique

Tao Shan, W. Tang+5 more|arXiv (Cornell University)|Dec 15, 2017

Geophysical and Geoelectrical Methods参考文献 17被引用 14

一句话总结

该论文提出一种深度卷积神经网络（ConvNet）来求解二维和三维电势分布的泊松方程，训练数据由有限差分法（FDM）生成。该模型在二维情况下实现低于1.5%的相对误差，在三维情况下低于3%，相比传统FDM求解器速度提升100倍以上，通过端到端学习实现电磁场的实时仿真。

ABSTRACT

In this work, we investigated the feasibility of applying deep learning techniques to solve Poisson's equation. A deep convolutional neural network is set up to predict the distribution of electric potential in 2D or 3D cases. With proper training data generated from a finite difference solver, the strong approximation capability of the deep convolutional neural network allows it to make correct prediction given information of the source and distribution of permittivity. With applications of L2 regularization, numerical experiments show that the predication error of 2D cases can reach below 1.5\% and the predication of 3D cases can reach below 3\%, with a significant reduction in CPU time compared with the traditional solver based on finite difference methods.

研究动机与目标

• 研究利用深度学习加速电磁仿真、求解泊松方程的可行性。
• 开发一种数据驱动的端到端深度学习模型，从介电常数和源分布预测电势。
• 与传统有限差分法（FDM）相比，显著降低计算时间，同时保持高精度。
• 评估模型在不同介电常数、形状和源位置配置下的泛化性能。
• 展示使用训练好的神经网络实现实时电磁仿真潜力。

提出的方法

• 使用全卷积神经网络（FCN）将介电常数分布和源位置输入映射为输出电势场。
• 通过有限差分法（FDM）求解器在包含点源和非均匀电介质的二维和三维域中生成训练数据。
• 在损失函数中应用L2正则化以防止过拟合并提高泛化能力。
• 在Nvidia K80 GPU上使用TensorFlow的Adam优化器进行训练，训练样本数量根据场景不同为8,000至40,000。
• 输入尺寸为64×64或64×64×64（二维和三维情况），输出尺寸相应为32×32或32×32×32。
• 通过相对误差 |ϕ_ConvNet − ϕ_FDM| / |ϕ_FDM| 评估预测精度，平均误差在所有网格点上计算。

实验结果

研究问题

• RQ1 深度卷积神经网络能否准确预测从介电常数和源输入得到的二维和三维静电势分布？
• RQ2 该模型的预测误差与传统有限差分法（FDM）求解器相比如何？
• RQ3 L2正则化在深度学习泊松求解器中在多大程度上改善了泛化能力并减少了过拟合？
• RQ4 该深度学习模型能否在保持高精度的同时，对FDM实现显著的速度提升，且适用于多种配置？
• RQ5 该模型是否能够泛化到训练分布之外的未见配置？

主要发现

• 在二维情况下，ConvNet模型在场景1至5中平均相对误差为-41 dB（约1.5%），在包含所有配置的场景6中最终平均误差为-38 dB（约3%）。
• 在三维情况下，模型平均相对误差为-31 dB（约3%），表明在更复杂的几何结构中表现优异。
• 模型在不同形状、介电常数值和源位置的多样化配置中泛化良好，表现为所有场景中误差一致偏低。
• 训练和测试损失曲线高度一致，表明无过拟合现象，具备强大的泛化能力。
• 推理时间大幅缩短：2,000个二维情况仅需0.13秒（FDM需16秒），5个三维情况仅需1.2秒（FDM需292秒），具备实现实时仿真的潜力。
• 该方法相比FDM实现100倍以上的速度提升，同时保持高精度，表明其在实时电磁仿真器中具备可行性。