[论文解读] Approximation error analysis of some deep backward schemes for nonlinear PDEs

Maximilien Germain, Huyên Pham+1 more|arXiv (Cornell University)|Jun 2, 2020

Stochastic processes and financial applications参考文献 4被引用 14

一句话总结

本文提出了深度向后多步格式（MDBDP），一种基于机器学习的方法，用于通过后向随机微分方程（BSDEs）求解高维非线性偏微分方程（PDEs）。该方法通过多步回归减少误差传播，相较于现有的DBDP和Deep Splitting方法，提升了精度，在特定PDE结构下，针对深度Lipschitz GroupSort网络的神经元数量实现了收敛速率分析。

ABSTRACT

Recently proposed numerical algorithms for solving high-dimensional nonlinear partial differential equations (PDEs) based on neural networks have shown their remarkable performance. We review some of them and study their convergence properties. The methods rely on probabilistic representation of PDEs by backward stochastic differential equations (BSDEs) and their iterated time discretization. Our proposed algorithm, called deep backward multistep scheme (MDBDP), is a machine learning version of the LSMDP scheme of Gobet, Turkedjiev (Math. Comp. 85, 2016). It estimates simultaneously by backward induction the solution and its gradient by neural networks through sequential minimizations of suitable quadratic loss functions that are performed by stochastic gradient descent. Our main theoretical contribution is to provide an approximation error analysis of the MDBDP scheme as well as the deep splitting (DS) scheme for semilinear PDEs designed in Beck, Becker, Cheridito, Jentzen, Neufeld (2019). We also supplement the error analysis of the DBDP scheme of Hur{\\'e}, Pham, Warin (Math. Comp. 89, 2020). This yields notably convergence rate in terms of the number of neurons for a class of deep Lipschitz continuous GroupSort neural networks when the PDE is linear in the gradient of the solution for the MDBDP scheme, and in the semilinear case for the DBDP scheme. We illustrate our results with some numerical tests that are compared with some other machine learning algorithms in the literature.

研究动机与目标

• 为解决使用机器学习求解高维非线性PDEs时的维度灾难问题。
• 通过在向后迭代中引入多步回归，提升现有深度向后格式的数值稳定性和精度。
• 为MDBDP提供严格的近似误差分析，并将该分析扩展至Deep Splitting（DS）格式。
• 利用近期深度神经网络近似结果，补充DBDP格式的收敛性分析。
• 在不同维度的数值基准测试中，展示MDBDP相较于DS、DBDP和DBSDE的优越性能。

提出的方法

• MDBDP格式采用向后迭代，通过随机梯度下降依次最小化二次损失函数，同时估计解及其梯度。
• 它是LSMDP格式的机器学习改进版本，依赖于BSDEs的迭代时间离散化和多步回归，以减少误差传播。
• 该方法采用具有GroupSort激活函数的深度神经网络，用于在高维空间中近似解和梯度。
• 理论分析基于BSDEs的稳定性论证和近期深度网络近似结果，推导出以神经元数量表示的收敛速率。
• 该格式应用于梯度线性（针对MDBDP）和半线性情形（针对DBDP）的半线性PDEs。
• 数值验证在多个测试案例中对比了MDBDP与DBDP、DBSDE和DS的性能，涵盖不断增加的维度。

实验结果

研究问题

• RQ1 深度向后多步格式（MDBDP）在高维半线性PDEs中的近似误差行为如何？
• RQ2 MDBDP中的多步回归策略相较于单步格式，如何减少误差传播？
• RQ3 能否建立MDBDP在深度网络神经元数量方面的收敛速率？
• RQ4 MDBDP在数值上相较于现有方法（如DBDP、DBSDE和Deep Splitting，DS）表现如何？
• RQ5 该理论误差分析能否扩展至Deep Splitting（DS）格式？

主要发现

• 在数值测试中，MDBDP实现了最低的标准差，相对误差分别为0.38%（d=10）、0.24%（d=20）和0.09%（d=50），优于DS和其他方法。
• 在有界解情形（d=50）下，MDBDP的相对误差仅为0.09%，显著低于DS的3.62%。
• 在无界解情形（d=8）下，MDBDP的相对误差为0.47%，而DBDP2为7.28%，DS为5.86%。
• 理论分析在梯度线性与半线性PDEs下，为深度Lipschitz GroupSort网络的神经元数量建立了收敛速率。
• MDBDP在高维和复杂解结构下，相较于DBDP和DS展现出更优的稳定性和精度。
• 数值结果证实，MDBDP在维度超过10时仍能保持低方差和高精度，而其他方法在此时性能显著下降。