[论文解读] Experience Report of Physics-Informed Neural Networks in Fluid Simulations: Pitfalls and Frustration

Pi-Yueh Chuang, Lorena A. Barba|arXiv (Cornell University)|Jan 1, 2022

Model Reduction and Neural Networks被引用 4

一句话总结

本文报告了在无任何数据的情况下，使用物理信息神经网络（PINNs）求解纳维-斯托克斯方程所面临的挑战与失败，聚焦于两个基准流体流动问题：雷诺数为100的二维泰勒-格林涡流和雷诺数为200的二维圆柱绕流。尽管在训练32小时后，PINN在泰勒-格林问题上取得了可接受的结果，但在圆柱绕流中却未能捕捉到涡旋脱落现象，反而收敛到稳态解，凸显了在无数据或无扰动条件下求解复杂非定常流动时的显著局限性。

ABSTRACT

<strong>Poster presented at the SciPy Conference, Austin, TX, July 2022</strong> Proceedings: https://conference.scipy.org/proceedings/scipy2022/PiYueh_Chuang.html Preprint on arXiv: https://arxiv.org/abs/2205.14249

研究动机与目标

• 评估在无数据环境下，物理信息神经网络（PINNs）作为传统计算流体动力学（CFD）求解器替代方案的可行性。
• 识别并记录在将PINNs应用于实际流体动力学问题时遇到的关键挑战、计算成本和收敛性问题。
• 提供关于PINN局限性的坦诚经验报告，特别是在捕捉如涡旋脱落等非定常、混沌流动现象方面的不足。
• 通过分享实际陷阱和挫折，为未来研究人员提供指导，避免在无数据PINN应用中产生不切实际的期望。

提出的方法

• 本研究采用全连接神经网络实现PINN框架，以无外部数据的方式求解二维不可压缩纳维-斯托克斯方程。
• 损失函数结合了通过自动微分计算的纳维-斯托克斯方程残差、连续性方程以及边界/初始条件的残差。
• 对于泰勒-格林涡流问题，训练以16×16的有限差分模拟作为准确性和收敛性的基准。
• 对于圆柱绕流问题，PINN采用相同的网络架构和损失函数形式，但使用了不同的几何形状和边界条件。
• 尝试了超参数调优，包括网络深度、宽度和激活函数，但计算成本限制了系统性探索。
• 研究者探索了在初始条件中引入扰动，以激发非定常解，灵感来源于PDE求解器中已知的数值不稳定性。

实验结果

研究问题

• RQ1 在无任何训练数据的情况下，PINNs能否成功模拟如圆柱后方涡旋脱落等非定常、混沌流体流动？
• RQ2 与传统有限差分CFD求解器相比，PINNs在达到相当精度时的训练时间和计算成本如何？
• RQ3 为何即使增加网络架构的复杂性，PINN仍无法捕捉圆柱绕流中的时间依赖不稳定性？
• RQ4 超参数选择和网络设计在多大程度上影响PINN解的收敛性和物理解释性？
• RQ5 引入人工扰动或使用多个时间快照作为约束，能否提升PINNs捕捉非定常流动动力学的能力？

主要发现

• 对于雷诺数为100的二维泰勒-格林涡流，PINN求解器达到了可接受的精度，与16×16有限差分模拟结果一致，但训练时间约为32小时，远超传统求解器不到20秒的计算时间。
• 对于雷诺数为200的二维圆柱绕流，PINN未能捕捉到涡旋脱落现象，反而收敛到稳态解，尽管经过了广泛的超参数调优和网络复杂度提升。
• 失败并非由于模型容量不足，因为增加网络深度和宽度并未恢复非定常行为，表明优化过程或损失函数景观中存在更深层次的问题。
• PINN求解器表现出强烈的收敛到稳态解的倾向，即使在底层PDE支持非定常动力学的情况下，这表明在训练此类问题时存在根本性挑战。
• 引入初始条件扰动或使用多个时间快照作为约束，可能是打破对称性并激发非定常解的必要手段，但在当前设置中仍不足以实现目标。
• 本研究结论认为，无数据PINNs目前尚不足以可靠地应用于需要精确模拟非定常、混沌流体流动的实际流体动力学问题。