[论文解读] Data-driven discretization: machine learning for coarse graining of partial differential equations

Yohai Bar‐Sinai, Stephan Hoyer+2 more|arXiv (Cornell University)|Aug 15, 2018

Model Reduction and Neural Networks被引用 3

一句话总结

本文提出数据驱动离散化，这是一种利用神经网络学习偏微分方程（PDE）的粗粒度数值解中空间导数的机器学习方法。通过在已知PDE的解上端到端训练这些网络，该方法在比标准有限差分格式粗4–8倍的分辨率下仍能实现高精度，从而实现对非线性PDE在长时间尺度上的稳定且精确的积分。

ABSTRACT

The numerical solution of partial differential equations (PDEs) is challenging because of the need to resolve spatiotemporal features over wide length and timescales. Often, it is computationally intractable to resolve the finest features in the solution. The only recourse is to use approximate coarse-grained representations, which aim to accurately represent long-wavelength dynamics while properly accounting for unresolved small scale physics. Deriving such coarse grained equations is notoriously difficult, and often \emph{ad hoc}. Here we introduce \emph{data driven discretization}, a method for learning optimized approximations to PDEs based on actual solutions to the known underlying equations. Our approach uses neural networks to estimate spatial derivatives, which are optimized end-to-end to best satisfy the equations on a low resolution grid. The resulting numerical methods are remarkably accurate, allowing us to integrate in time a collection of nonlinear equations in one spatial dimension at resolutions 4-8x coarser than is possible with standard finite difference methods.

研究动机与目标

• 为解决在宽广时空尺度上解析偏微分方程（PDE）的细尺度特征所带来的计算不可行性。
• 克服缺乏系统推导的启发式粗粒度建模方法的局限性。
• 开发一种数据驱动方法，直接从已知PDE的解中学习优化的数值离散化。
• 通过学习到的导数近似方法，在低分辨率网格上实现非线性PDE的稳定且精确的时间积分。
• 证明学习到的离散化方法在精度和分辨率效率方面可超越标准有限差分方法。

提出的方法

• 该方法使用神经网络在粗网格上估计空间导数，取代传统的有限差分模板。
• 网络参数通过在多个解快照上最小化控制PDE的残差误差进行端到端训练。
• 训练数据由底层PDE的高分辨率解构成，为监督提供精确的导数信息。
• 损失函数强制预测的导数在粗网格上尽可能满足PDE。
• 所得的数值格式应用于时间积分，使用学习到的导数向前推进解。
• 该方法具有通用性，适用于一维空间中的一类广泛非线性PDE。

实验结果

研究问题

• RQ1 神经网络能否学习到在粗粒度离散网格上产生稳定且精确PDE数值解的空间导数近似？
• RQ2 在相同分辨率下，数据驱动离散化的精度与标准有限差分方法相比如何？
• RQ3 学习到的离散化在考虑未解析的小尺度物理的前提下，能在多大程度上捕捉长波长动力学？
• RQ4 该方法能否在不依赖其解析结构先验知识的情况下有效应用于非线性PDE？
• RQ5 使用这种数据驱动方法，在可接受精度下可实现的最大分辨率粗化倍数是多少？

主要发现

• 数据驱动离散化方法在比标准有限差分方法可行分辨率粗4–8倍的条件下，实现了非线性PDE的精确时间积分。
• 学习到的数值格式即使在复杂非线性系统中，也能在长时间积分中保持稳定性和精度。
• 在粗网格上，该方法在分辨率效率和解保真度方面显著优于传统有限差分格式。
• 在PDE解上对神经网络进行端到端训练，能够发现尊重底层物理的优化导数近似。
• 该方法在不同类型PDE之间具有泛化能力，对不同非线性和动力学表现出鲁棒性。
• 所得的粗粒度求解器即使在细尺度特征未被解析的情况下，也能以高精度捕捉长波长动力学。