[論文レビュー] Three algorithms for solving high-dimensional fully-coupled FBSDEs through deep learning

Shaolin Ji, Shigē Péng+2 more|arXiv (Cornell University)|Jul 11, 2019

Model Reduction and Neural Networks参考文献 29被引用数 4

ひとこと要約

本稿では、異なるフィードバック構造を持つニューラルネットワークを用いて制御変数 Z を近似することで、高次元の完全に結合された前向き・後向きストキャスティック微分方程式（FBSDE）を解くための3つのディープラーニングベースのアルゴリズムを提案する。これらの手法は次元の呪いを克服し、特にアルゴリズム3が優れた精度と安定性を示し、100次元のテストにおいて相対誤差が0.07%未満に抑えられた。

ABSTRACT

Recently, the deep learning method has been used for solving forward-backward stochastic differential equations (FBSDEs) and parabolic partial differential equations (PDEs). It has good accuracy and performance for high-dimensional problems. In this paper, we mainly solve fully coupled FBSDEs through deep learning and provide three algorithms. Several numerical results show remarkable performance especially for high-dimensional cases.

研究の動機と目的

• 古典的数値手法が次元の呪いに苦しむ高次元の完全に結合されたFBSDEを解く課題に対処すること。
• 高次元におけるFBSDEの解を効率的に近似できるディープラーニングベースの数値スキームを開発すること。
• 制御変数 Z の異なるフィードバック機構を備えた3つの異なるニューラルネットワークアーキテクチャを設計し、精度と収束性を向上させること。
• 100次元まで対応可能なベンチマークFBSDEに対してこれらのアルゴリズムの有効性を実証し、従来手法を上回る性能を示すこと。
• 収束速度、精度、計算コストの観点から、3つのアルゴリズムを体系的に比較すること。

提案手法

• Z プロセスをニューラルネットワークが学習する制御入力とみなして、FBSDEの解を最適制御問題として定式化する。
• アルゴリズム1では、Z を前向き状態 X と後向き状態 Y に依存させる構造とし、先行するディープラーニング手法を完全に結合されたケースに拡張する。
• アルゴリズム2では、Y を制御変数 u として扱い、u と Z が両方とも X に依存するように設計し、u と Y の一貫性を保証するためのペナルティ項を追加する。
• アルゴリズム3では、ピカール反復に基づき、ステップ k+1 における Z が X^{k+1}、Y^k、Z^k に依存するように設計し、パス依存型のフィードバックを可能にする。
• 終期条件と動的制約を含むコスト関数を最小化するように、確率的勾配降下法によりニューラルネットワークを訓練する。
• トレーニング中にイト積分をモンテカルロサンプルを用いて近似し、損失関数を計算する。

実験結果

リサーチクエスチョン

• RQ1 ディープラーニングは、古典的数値手法では扱いきれない高次元の完全に結合されたFBSDEを効果的に解くことができるか？
• RQ2 制御変数 Z の異なるフィードバック構造が収束速度、精度、安定性に与える影響は何か？
• RQ3 異なる次元において、3つの提案アルゴリズムの誤差、分散、計算コストの観点での相対的性能はどのようになるか？
• RQ4 アルゴリズム3のパス依存型フィードバックは、状態フィードバック型と比較して、より速い収束と高い精度をもたらすか？
• RQ5 複雑な非線形生成子を有する100次元FBSDEにおいて、これらの手法が高精度（例：相対誤差 < 0.1%）を達成できるか？

主な発見

• アルゴリズム3は最高の精度と安定性を示し、10次元のテストケースで相対誤差がわずか 4.24×10⁻⁴ に抑えられた。
• 100次元のテストケースでは、4000ステップのトレーニング後、アルゴリズム3が相対誤差 0.061% を達成し、明示解に非常に近い結果を得た。
• アルゴリズム3は収束に必要な反復ステップ数が最も少なく（平均1087.8ステップ）、ただし1ステップあたりの処理時間がアルゴリズム1および2より長かった。
• アルゴリズム2は数値結果の分散が最小（例題4で1.262×10⁻⁹）であり、高い安定性を示したが、例題3では安定に収束しなかった。
• アルゴリズム1および2はステップあたりの計算が速かったが、特に高次元設定では収束に多くの反復ステップを要した。
• 3つのアルゴリズムとも、すべてのテストケースで相対誤差が1%未満に抑えられ、高次元問題へのロバストネスとスケーラビリティを示した。