Skip to main content
QUICK REVIEW

[论文解读] A deep learning method for solving Fokker-Planck equations

Jiayu Zhai, Matthew Dobson|arXiv (Cornell University)|Dec 19, 2020
Model Reduction and Neural Networks参考文献 11被引用 9
一句话总结

该论文提出了一种无网格的深度学习方法,通过将解表示为神经网络并最小化包含福克-普朗克算子的损失函数,以求解高维福克-普朗克方程。该方法显著减少了数据需求——仅需10²至10⁴个参考点——即使在存在噪声的蒙特卡洛数据下也能实现精确的不变测度近似,从而能够高效求解此前难以处理的高维随机系统。

ABSTRACT

The time evolution of the probability distribution of a stochastic differential equation follows the Fokker-Planck equation, which usually has an unbounded, high-dimensional domain. Inspired by our early study in \cite{li2018data}, we propose a mesh-free Fokker-Planck solver, in which the solution to the Fokker-Planck equation is now represented by a neural network. The presence of the differential operator in the loss function improves the accuracy of the neural network representation and reduces the the demand of data in the training process. Several high dimensional numerical examples are demonstrated.

研究动机与目标

  • 开发一种无网格、数据驱动的数值求解器,用于求解高维无界域中的福克-普朗克方程,传统PDE求解器因维度灾难而失效。
  • 通过将福克-普朗克微分算子嵌入损失函数,减少对大规模高保真仿真数据集的依赖,提升对噪声或稀疏数据的鲁棒性。
  • 通过将受约束优化替换为无约束神经网络形式,扩展先前的数据驱动求解器,实现在高维空间中的可扩展训练。
  • 在具有挑战性的高维系统上验证该方法,包括一个6D湍流模型,证明仅使用少量参考数据即可精确近似不变概率测度。

提出的方法

  • 将稳态福克-普朗克方程的解表示为深度神经网络,直接在高维状态空间中参数化概率密度函数。
  • 构建一个无约束优化问题,其中损失函数同时包含对参考蒙特卡洛样本的数据保真度项和强制满足福克-普朗克算子的物理信息项。
  • 将福克-普朗克微分算子整合到损失函数中,以提升泛化能力并降低对噪声或稀疏训练数据的敏感性。
  • 使用从蒙特卡洛模拟或条件高斯采样器中采样的参考点,通过随机优化训练神经网络,最小化整个定义域上的组合损失。
  • 采用改进的条件高斯采样器,比直接蒙特卡洛方法更高效地生成参考概率密度,尤其在高维情况下优势显著。
  • 应用训练好的网络预测域内任意点的不变概率密度,实现无需重新模拟的快速评估。

实验结果

研究问题

  • RQ1物理信息神经网络损失函数是否能减少求解高维福克-普朗克方程的数据需求?
  • RQ2将福克-普朗克算子嵌入损失函数在应对噪声或稀疏蒙特卡洛数据时是否能提升鲁棒性?
  • RQ3无网格、无约束的神经网络形式是否能在高维设置下优于传统基于网格的数据驱动求解器?
  • RQ4在仅使用10²至10⁴个参考点的情况下,神经网络在多大程度上能准确近似高维随机系统的不变测度?
  • RQ5在高维系统中,神经网络求解器在精度和计算成本方面与直接蒙特卡洛模拟相比表现如何?

主要发现

  • 该方法仅使用20,000个参考点,即可在高维系统(如6D湍流模型)中实现对不变概率密度函数的精确近似。
  • 神经网络解对参考数据中的空间不相关噪声表现出强鲁棒性,在蒙特卡洛模拟存在噪声或低分辨率时仍能保持精度。
  • 6D系统的训练时间不足一小时,证明了即使在高维情况下仍具有计算效率。
  • 条件高斯采样器相比直接蒙特卡洛方法将模拟时间减少了100倍,显著提升了数据生成效率。
  • 神经网络近似结果在中心2D切片上与直接蒙特卡洛结果和条件高斯采样器输出高度一致,验证了不同参考数据源下解的有效性。
  • 在损失函数中引入福克-普朗克算子可减少数据需求并改善收敛性,使在极小参考数据量下仍能有效学习。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。