[論文レビュー] Approximation error analysis of some deep backward schemes for nonlinear PDEs

Maximilien Germain, Huyên Pham+1 more|arXiv (Cornell University)|Jun 2, 2020

Stochastic processes and financial applications参考文献 4被引用数 14

ひとこと要約

本稿では、後退確率微分方程式（BSDEs）を用いた高次元非線形PDEを解くための機械学習ベースの手法である、深層後退マルチステップスキーム（MDBDP）を提案する。DBDP や Deep Splitting よりも精度を向上させ、誤差伝播を低減するためにマルチステップ回帰を活用しており、特定のPDE構造下で深層リプシッツ・グループソートネットワークのニューロン数に関する収束速度を達成している。

ABSTRACT

Recently proposed numerical algorithms for solving high-dimensional nonlinear partial differential equations (PDEs) based on neural networks have shown their remarkable performance. We review some of them and study their convergence properties. The methods rely on probabilistic representation of PDEs by backward stochastic differential equations (BSDEs) and their iterated time discretization. Our proposed algorithm, called deep backward multistep scheme (MDBDP), is a machine learning version of the LSMDP scheme of Gobet, Turkedjiev (Math. Comp. 85, 2016). It estimates simultaneously by backward induction the solution and its gradient by neural networks through sequential minimizations of suitable quadratic loss functions that are performed by stochastic gradient descent. Our main theoretical contribution is to provide an approximation error analysis of the MDBDP scheme as well as the deep splitting (DS) scheme for semilinear PDEs designed in Beck, Becker, Cheridito, Jentzen, Neufeld (2019). We also supplement the error analysis of the DBDP scheme of Hur{\\'e}, Pham, Warin (Math. Comp. 89, 2020). This yields notably convergence rate in terms of the number of neurons for a class of deep Lipschitz continuous GroupSort neural networks when the PDE is linear in the gradient of the solution for the MDBDP scheme, and in the semilinear case for the DBDP scheme. We illustrate our results with some numerical tests that are compared with some other machine learning algorithms in the literature.

研究の動機と目的

• 高次元非線形PDEを機械学習で解く際の次元の呪いに対処すること。
• 後退インダクションにマルチステップ回帰を組み込むことで、既存の深層後退スキームの数値的安定性と精度を向上させること。
• MDBDPの近似誤差解析を厳密に行い、それをDeep Splitting（DS）スキームへ拡張すること。
• 最近の深層ニューラルネットワーク近似結果を用いて、DBDPスキームの収束解析を補完すること。
• 数値ベンチマークにおいて、DS、DBDP、DBSDE と比較してMDBDPが優れた性能を示すことを実証すること。

提案手法

• MDBDPスキームは、確率的勾配降下法を用いて逐次的に2次損失関数を最小化することで、解とその勾配を同時に推定する後退インダクションを採用する。
• これはLSMDPスキームの機械学習的応用であり、BSDEの繰り返し時間分割とマルチステップ回帰を用いて誤差伝播を低減する。
• 高次元空間における解と勾配の近似に、グループソート活性化関数を備えた深層ニューラルネットワークを採用する。
• 理論的解析では、BSDEの安定性に関する議論と最近の深層ネットワーク近似結果を組み合わせ、ニューロン数に関する収束速度を導出する。
• このスキームは、勾配に関して線形な生成子を持つ半線形PDE（MDBDP用）および半線形ケース（DBDP用）に適用される。
• 数値的検証では、次元が増加する複数のテストケースにおいて、MDBDPをDBDP、DBSDE、DSと比較した。

実験結果

リサーチクエスチョン

• RQ1 高次元半線形PDEに対して、深層後退マルチステップスキーム（MDBDP）の近似誤差の挙動はどのように変化するか？
• RQ2 MDBDPにおけるマルチステップ回帰戦略は、単一ステップスキームと比較してどのように誤差伝播を低減するか？
• RQ3 深層ネットワークのニューロン数に関して、MDBDPで確立できる収束速度は何か？
• RQ4 MDBDPスキームは、DBDP、DBSDE、およびDeep Splitting（DS）といった既存手法と比較して、数値的にどのように異なるか？
• RQ5 理論的誤差解析をDeep Splitting（DS）スキームへ拡張することは可能か？

主な発見

• 数値実験においてMDBDPは最小の標準偏差を示し、相対誤差はd=10で0.38%、d=20で0.24%、d=50で0.09%を記録し、DSや他のスキームを上回った。
• 有界解ケース（d=50）では、MDBDPの相対誤差はたった0.09%にとどまり、DSの3.62%と比べて顕著に低い。
• 非有界解ケース（d=8）では、MDBDPの相対誤差は0.47%であり、DBDP2の7.28%とDSの5.86%を下回った。
• 理論的解析により、勾配に関して線形および半線形PDEの下で、深層リプシッツ・グループソートネットワークのニューロン数に関する収束速度が確立された。
• 特に高次元および複雑な解構造下でも、MDBDPはDBDPやDSよりも優れた安定性と精度を示した。
• 数値結果から、他のスキームが10を超える次元で劣化する中、MDBDPは低分散と高精度を維持することが確認された。