[논문 리뷰] Deep backward schemes for high-dimensional nonlinear PDEs

Côme Huré, Huyên Pham외 1명|arXiv (Cornell University)|2019. 02. 04.

Stochastic processes and financial applications참고 문헌 10인용 수 54

한 줄 요약

이 논문은 BSDE 표현과 신경망을 결합하여 고차원 비선형 편미분방정식(PDE) 및 변분 부등식을 해결하는 딥 백워드 다이나믹 프로그래밍 스킴(DBDP1과 DBDP2)을 제시하며, 차원 50까지 수렴성과 우수한 성능을 달성한다.

ABSTRACT

We propose new machine learning schemes for solving high dimensional nonlinear partial differential equations (PDEs). Relying on the classical backward stochastic differential equation (BSDE) representation of PDEs, our algorithms estimate simultaneously the solution and its gradient by deep neural networks. These approximations are performed at each time step from the minimization of loss functions defined recursively by backward induction. The methodology is extended to variational inequalities arising in optimal stopping problems. We analyze the convergence of the deep learning schemes and provide error estimates in terms of the universal approximation of neural networks. Numerical results show that our algorithms give very good results till dimension 50 (and certainly above), for both PDEs and variational inequalities problems. For the PDEs resolution, our results are very similar to those obtained by the recent method in \\cite{weinan2017deep} when the latter converges to the right solution or does not diverge. Numerical tests indicate that the proposed methods are not stuck in poor local minimaas it can be the case with the algorithm designed in \\cite{weinan2017deep}, and no divergence is experienced. The only limitation seems to be due to the inability of the considered deep neural networks to represent a solution with a too complex structure in high dimension.

연구 동기 및 목표

• 고차원의 비선형 구(Parabolic) PDE 해에서 차원의 저주를 해결한다.
• PDE를 수치 해석하기 위한 BSDE 표현을 활용해 PDE를 재구성한다.
• 역방향 귀납을 사용한 두 가지 신경망 기반 스킴(DBDP1과 DBDP2)을 개발한다.
• 신경망 근사와 연계된 수렴 및 오차 추정치를 제시한다.
• 고차원(약 50)까지의 수치적 효과성과 변분 부등식에 대한 성능을 입증한다.

제안 방법

• BASED on discretization BSDE via an Euler scheme and backward induction.
• At each time step, estimate the solution and (for DBDP1) its gradient using neural networks.
• DBDP1 learns both u and Z (gradient) with two networks per step; DBDP2 learns u and derives Z via numerical differentiation.
• Extend the framework to variational inequalities using a reflected BSDE formulation (RDBDP).
• Provide convergence analysis showing error depends on time discretization, forward/backward regularity, and neural network approximation capacity.

실험 결과

연구 질문

• RQ1 제시된 딥 백워드 스킴이 시간 이산화를 정교화할 때 진짜 BSDE/해에 수렴할 수 있는가?
• RQ2 각 단계의 신경망 근사 오차가 전체 수렴성과 오차 한계에 어떤 영향을 미치는가?
• RQ3 DBDP1와 DBDP2가 기존의 딥 BSDE 접근법에서 나타난 로컬 최솟값 문제를 완화하는가?
• RQ4 메서드가 고차원 비선형 PDE와 변분 부등식(예: 미국 옵션)을 차원 약 50까지 효과적으로 해결할 수 있는가?
• RQ5 참 진짜 해가 매우 복잡한 고차원 구조를 가질 때의 한계는 무엇인가?

주요 결과

• DBDP1/DBDP2는 표준 Lipschitz 및 규칙성 가정하에서 BSDE 해로 수렴하며, 그 오차는 신경망 근사 오차에 의해 제어된다.
• 총 오차는 종단 근사, 시간 이산화, Z-정규성 및 신경망 근사 항을 결합한 명시적 오차 상한이 도출된다.
• 수치 실험은 차원 50까지의 고차원 문제를 신경망으로 표현 가능한 경우 해결했으며, 수렴 하에서 Deep BSDE와 같은 기존 방법보다 같거나 더 나은 결과를 보였다.
• DBDP 방법은 일부 이전 스킴에서 발생하던 로컬 미니마 문제를 줄여 실제 수렴성을 향상시켰다.
• 변분 부등식 확장(RDBDP)은 비교적 높은 차원(약 40까지)의 미국 옵션 스타일 문제를 정확하게 처리한다.
• 관찰된 한계로는 해를 매우 복잡한 고차원 구조로 표현하는 신경망 용량의 제약이 있다.