[논문 리뷰] Three algorithms for solving high-dimensional fully-coupled FBSDEs through deep learning

Shaolin Ji, Shigē Péng외 2명|arXiv (Cornell University)|2019. 07. 11.

Model Reduction and Neural Networks참고 문헌 29인용 수 4

한 줄 요약

이 논문은 신경망을 활용해 제어 변수 Z를 다양한 피드백 구조로 근사함으로써 고차원 완전히 결합된 정방향-역방향 확률미분방정식(FBSDEs)을 해결하기 위한 세 가지 딥러닝 기반 알고리즘을 제안한다. 이 방법들은 차원의 극복을 극복하며, 알고리즘 3이 특히 뛰어난 정확도와 안정성을 보이며, 100차원 테스트에서 상대 오차가 0.07% 미만으로 도달한다.

ABSTRACT

Recently, the deep learning method has been used for solving forward-backward stochastic differential equations (FBSDEs) and parabolic partial differential equations (PDEs). It has good accuracy and performance for high-dimensional problems. In this paper, we mainly solve fully coupled FBSDEs through deep learning and provide three algorithms. Several numerical results show remarkable performance especially for high-dimensional cases.

연구 동기 및 목표

• 기존 수치적 방법에서 차원의 극복 문제로 인해 해결이 어려운 고차원 완전히 결합된 FBSDEs를 해결하는 데 도전한다.
• 고차원에서 FBSDEs의 해를 효율적으로 근사할 수 있는 딥러닝 기반 수치적 기법을 개발한다.
• 제어 변수 Z에 대해 서로 다른 피드백 메커니즘을 가진 세 가지 별도의 신경망 아키텍처를 설계하여 정확도와 수렴 속도를 향상시킨다.
• 100차원에 이르는 기준 FBSDE에 대해 이 알고리즘들의 효과를 입증하며, 기존 방법보다 뛰어난 성능을 보인다.
• 수렴 속도, 정확도, 계산 비용 측면에서 세 알고리즘 간의 체계적 비교를 제공한다.

제안 방법

• Z 과정을 신경망이 학습할 수 있는 제어 입력으로 간주하여 FBSDE 해를 최적 제어 문제로 재구성한다.
• 알고리즘 1은 Z를 정방향 상태 X와 역방향 상태 Y에 의존하도록 설계하여, 이전의 딥러닝 방법을 완전히 결합된 경우로 확장한다.
• 알고리즘 2는 Y를 제어 변수 u로 간주하며, u와 Z가 모두 X에 의존하도록 하되, u와 Y 간의 일致성을 강제하는 페널티 항을 추가한다.
• 알고리즘 3은 피카르 반복 기반으로 제안되며, 단계 k+1에서 Z는 X^{k+1}, Y^k, Z^k에 의존하여 경로 의존적 피드백을 가능하게 한다.
• 최종 조건과 동적 제약 조건을 포함한 비용 기능을 최소화함으로써 확률적 경사 하강법을 통해 신경망을 훈련시킨다.
• 훈련 중 이토 적분과 손실 함수 계산을 위해 몬테카를로 샘플링을 사용한다.

실험 결과

연구 질문

• RQ1 딥러닝은 기존 수치적 방법으로는 해결이 어려운 고차원 완전히 결합된 FBSDEs를 효과적으로 해결할 수 있는가?
• RQ2 제어 변수 Z에 대한 다양한 피드백 구조가 수렴 속도, 정확도, 안정성에 어떤 영향을 미치는가?
• RQ3 다양한 차원에서 오차, 분산, 계산 비용 측면에서 세 알고리즘의 상대적 성능은 어떠한가?
• RQ4 알고리즘 3의 경로 의존적 피드백은 상태 피드백 접근법에 비해 더 빠른 수렴과 높은 정확도를 제공하는가?
• RQ5 복잡한 비선형 생성자와 함께 100차원 FBSDE에서 높은 정확도(예: 상대 오차 < 0.1%)를 달성할 수 있는가?

주요 결과

• 알고리즘 3는 가장 높은 정확도와 안정성을 보이며, 10차원 테스트 케이스에서 상대 오차가 단지 4.24×10⁻⁴에 그친다.
• 100차원 테스트 케이스에서 알고리즘 3는 4000회 훈련 단계 후 상대 오차 0.061%를 기록하여 명시적 해와 밀도 있게 일치한다.
• 알고리즘 3는 평균 1087.8회의 반복 단계만으로 수렴했으며, 이는 세 알고리즘 중 가장 적은 반복 수였다. 다만 각 단계의 처리 시간은 알고리즘 1 및 2보다 더 길었다.
• 알고리즘 2는 수치 결과의 분산이 가장 낮았으며(예제 4에서 1.262×10⁻⁹), 높은 안정성을 보였지만, 예제 3에서는 안정적으로 수렴하지 못했다.
• 알고리즘 1과 2는 단계당 계산 속도가 더 빠르지만, 특히 고차원 설정에서 수렴하기 위해 더 많은 반복 수가 필요했다.
• 모든 세 알고리즘은 모든 테스트 케이스에서 상대 오차가 1% 이내로 유지되어 고차원 문제에 대한 강건성과 확장성을 입증했다.