[論文レビュー] Deep backward schemes for high-dimensional nonlinear PDEs

Côme Huré, Huyên Pham+1 more|arXiv (Cornell University)|Feb 4, 2019

Stochastic processes and financial applications参考文献 10被引用数 54

ひとこと要約

この論文は、深層バックワードダイナミックプログラミング手法（DBDP1およびDBDP2）を提案し、高次元の非線形PDEと変分不等式を、BSDE表現とニューラルネットワークを結合することで解き、収束と50次元程度までの良好な性能を達成する。

ABSTRACT

We propose new machine learning schemes for solving high dimensional nonlinear partial differential equations (PDEs). Relying on the classical backward stochastic differential equation (BSDE) representation of PDEs, our algorithms estimate simultaneously the solution and its gradient by deep neural networks. These approximations are performed at each time step from the minimization of loss functions defined recursively by backward induction. The methodology is extended to variational inequalities arising in optimal stopping problems. We analyze the convergence of the deep learning schemes and provide error estimates in terms of the universal approximation of neural networks. Numerical results show that our algorithms give very good results till dimension 50 (and certainly above), for both PDEs and variational inequalities problems. For the PDEs resolution, our results are very similar to those obtained by the recent method in \\cite{weinan2017deep} when the latter converges to the right solution or does not diverge. Numerical tests indicate that the proposed methods are not stuck in poor local minimaas it can be the case with the algorithm designed in \\cite{weinan2017deep}, and no divergence is experienced. The only limitation seems to be due to the inability of the considered deep neural networks to represent a solution with a too complex structure in high dimension.

研究の動機と目的

• 非線形放物PDEの次元の呪いに対処する。
• 数値解法のためにPDEを再定式化するBSDE表現を活用する。
• 後向き帰納を用いた2つのニューラルネットワークベースの手法（DBDP1とDBDP2）を開発する。
• 収束性を証明し、ニューラルネットワーク近似に結びつく誤差推定を提供する。
• 高次元（約50）および変分不等式に対して数値的有効性を示す。

提案手法

• EulerスキームによるBSDEの離散化と後向き帰納を行う。
• 各時刻で解と（DBDP1の場合は）勾配をニューラルネットワークで推定する。
• DBDP1は各ステップでuとZ（勾配）を2つのネットワークで学習；DBDP2はuを学習し、数値微分でZを導出する。
• 反射BSDE式を用いた変分不等式への拡張（RDBDP）。
• 時間離散化、前向き/後向きの正則性、およびニューラルネットワーク近似能力に依存する誤差を示す収束解析を提供。

実験結果

リサーチクエスチョン

• RQ1 提案された深層バックワード方式は、時間離散化を精密化すると真のBSDE/解へ収束するか。
• RQ2 各ステップでのニューラルネットワーク近似誤差が全体の収束と誤差境界にどう影響するか。
• RQ3 DBDP1およびDBDP2は、従来のディープBSDE手法で見られた局所 minima の問題を緩和できるか。
• RQ4 高次元の非線形PDEと変分不等式（例：アメリカンオプション）を約50次元程度まで効果的に解けるか。
• RQ5 真の解が非常に複雑な高次元構造を持つ場合の制限は何か。

主な発見

• DBDP1/DBDP2は標準的なリプシッツ条件と正則性仮定の下でBSDE解に収束し、それらの誤差はニューラルネットワーク近似誤差によって制御される。
• 明示的な誤差境界を導出：総誤差は終端近似、時間離散化、Zの正則性、およびニューラルネットワーク近似項を組み合わせたもの。
• 数値実験は、解がニューラルネットワークで表現可能な高次元問題を50次元まで解き、結果は収束の下でDeep BSDE等の従来法と同等かそれより優れている。
• DBDP法は、以前のいくつかの手法で問題となっていた局所 minimaの問題を低減し、実用的な収束性を改善した。
• 変分不等式拡張（RDBDP）は、アメリカンオプション型問題を比較的高次元（約40まで）で正確に扱える。
• 観察された制限は、非常に複雑な高次元構造を表現するニューラルネットワークの能力に依存する。