[논문 리뷰] Solving stochastic differential equations and Kolmogorov equations by means of deep learning

Christian Beck, S. Becker외 3명|arXiv (Cornell University)|2018. 06. 01.

Stochastic processes and financial applications참고 문헌 35인용 수 86

한 줄 요약

이 논문은 차원의 극복 문제 없이 고차원 콜모고로프 편미분방정식(PDE)과 확률미분방정식(SDE)을 해결하기 위한 딥러닝 기반 방법을 제안한다. 신경망을 사용해 전체 공간 영역에서 해를 근사함으로써, 열 방정식, 블랙-쇼스, 스토하스틱 로렌츠, 헤스턴 모델에 대한 벤치마크를 통해 검증된 바와 같이 고차원에서 정확하고 효율적인 수치 해를 제공한다.

ABSTRACT

Stochastic differential equations (SDEs) and the Kolmogorov partial differential equations (PDEs) associated to them have been widely used in models from engineering, finance, and the natural sciences. In particular, SDEs and Kolmogorov PDEs, respectively, are highly employed in models for the approximative pricing of financial derivatives. Kolmogorov PDEs and SDEs, respectively, can typically not be solved explicitly and it has been and still is an active topic of research to design and analyze numerical methods which are able to approximately solve Kolmogorov PDEs and SDEs, respectively. Nearly all approximation methods for Kolmogorov PDEs in the literature suffer under the curse of dimensionality or only provide approximations of the solution of the PDE at a single fixed space-time point. In this paper we derive and propose a numerical approximation method which aims to overcome both of the above mentioned drawbacks and intends to deliver a numerical approximation of the Kolmogorov PDE on an entire region $[a,b]^d$ without suffering from the curse of dimensionality. Numerical results on examples including the heat equation, the Black-Scholes model, the stochastic Lorenz equation, and the Heston model suggest that the proposed approximation algorithm is quite effective in high dimensions in terms of both accuracy and speed.

연구 동기 및 목표

• 기존 수치적 방법으로는 해결이 불가능한 고차원 콜모고로프 PDE와 SDE를 해결하는 데 도전한다.
• 기존 PDE 근사 방법에서 주요한 제약 요소인 차원의 극복 문제를 극복한다.
• 고립된 점이 아닌 전체 공간 영역 $[a,b]^d$ 에서 수치적 해를 제공한다.
• 금융, 공학, 자연과학 분야에 적합한 확장 가능하고 효율적인 방법을 개발한다.
• 전통적 방법이 실패하거나 비용이 지나치게 증가하는 고차원 환경에서 정확하고 빠른 해 계산을 가능하게 한다.

제안 방법

• 고차원 영역 $[a,b]^d$ 에서 콜모고로프 PDE의 해를 근사하기 위해 딥 뉴럴 네트워크를 활용한다.
• 네트워크 학습을 위해 PDE 잔여항과 경계 조건에 기반한 손실 함수를 적용한다.
• 스토하스틱 경량 하강법을 사용해 고차원에서의 확장 가능한 최적화를 달성한다.
• PDE 역학에 의해 생성된 데이터를 활용해 PDE의 해를 지도학습 문제로 간주한다.
• 훈련 중 기대 손실을 추정하기 위해 몬테카를로 샘플링을 사용해 고차원 공간에서의 강건성을 확보한다.
• 페인만-카프 공식을 통한 관련 SDE의 해 통합을 통해 PDE와 확률과정을 연결한다.

실험 결과

연구 질문

• RQ1 딥러닝을 사용해 전체 공간 영역에서 고차원 콜모고로프 PDE의 해를 근사할 수 있는가?
• RQ2 제안된 방법이 기존 수치적 PDE 해법에서 애초에 악영향을 미치는 차원의 극복 문제를 피할 수 있는가?
• RQ3 기존 방법과 비교해 고차원 환경에서 이 방법의 정확성과 효율성은 어떠한가?
• RQ4 이 방법은 헤스턴 및 스토하스틱 로렌츠 시스템과 같은 복잡한 모델을 효과적으로 다룰 수 있는가?
• RQ5 금융 및 물리 분야의 실용적 응용에 있어 딥러닝 기반 접근법은 확장 가능하고 신뢰할 수 있는가?

주요 결과

• 제안된 방법은 차원의 극복 문제 없이 전체 영역 $[a,b]^d$ 에서 콜모고로프 PDE의 해를 성공적으로 근사한다.
• 열 방정식에 대한 수치 실험 결과는 고차원에서도 높은 정확도를 보이며, 다양한 테스트 케이스에서 안정적인 수렴을 보였다.
• 빠른 계산 시간을 달성하여 고차원 문제에서 기존 방법보다 속도 면에서 뛰어난 성능을 보였다.
• 금융 파생상품 가격 정책의 핵심 기준인 블랙-쇼스 모델에 대해서도 정확한 근사치를 제공하였다.
• 스토하스틱 로렌츠 방정식과 헤스턴 모델 모두에서 뛰어난 성능을 보여, 비선형 및 확률적 시스템 전반에 걸쳐 광범위한 적용 가능성을 입증하였다.
• 결과적으로 딥러닝은 고차원 PDE와 SDE에 대한 기존 수치적 방법의 실현 가능하고 확장 가능한 대안이 될 수 있음을 시사한다.