[论文解读] Three algorithms for solving high-dimensional fully-coupled FBSDEs through deep learning

Shaolin Ji, Shigē Péng+2 more|arXiv (Cornell University)|Jul 11, 2019

Model Reduction and Neural Networks参考文献 29被引用 4

一句话总结

该论文提出了三种基于深度学习的算法，用于求解高维完全耦合的前向-后向随机微分方程（FBSDEs），通过神经网络以不同反馈结构近似控制变量 Z。这些方法克服了维数灾难问题，其中算法3表现出更优的精度与稳定性，在100维测试中相对误差低于0.07%。

ABSTRACT

Recently, the deep learning method has been used for solving forward-backward stochastic differential equations (FBSDEs) and parabolic partial differential equations (PDEs). It has good accuracy and performance for high-dimensional problems. In this paper, we mainly solve fully coupled FBSDEs through deep learning and provide three algorithms. Several numerical results show remarkable performance especially for high-dimensional cases.

研究动机与目标

• 解决经典数值方法在高维完全耦合FBSDEs中受维数灾难影响的挑战。
• 开发基于深度学习的数值格式，以高效近似高维FBSDEs的解。
• 设计三种具有不同反馈机制的神经网络架构，用于控制变量Z，以提升精度与收敛性。
• 在高达100维的基准FBSDEs上验证这些算法的有效性，展示其相对于传统方法的优越性能。
• 系统比较三种算法在收敛速度、精度与计算成本方面的表现。

提出的方法

• 将FBSDE的解表述为最优控制问题，其中Z过程被视为由神经网络学习的控制输入。
• 设计算法1，使Z依赖于前向状态X与后向状态Y，将先前的深度学习方法扩展至完全耦合情形。
• 通过将Y视为控制变量u，引入算法2，使u与Z均依赖于X，并添加惩罚项以确保u与Y的一致性。
• 基于Picard迭代提出算法3，其中Z在第k+1步依赖于X^{k+1}、Y^k与Z^k，实现路径相关反馈。
• 通过最小化包含终端条件与动态约束的代价泛函，使用随机梯度下降训练神经网络。
• 使用蒙特卡洛采样近似FBSDE中的伊藤积分，并在训练过程中计算损失函数。

实验结果

研究问题

• RQ1 深度学习能否有效求解经典数值方法难以处理的高维完全耦合FBSDEs？
• RQ2 控制变量Z的不同反馈结构如何影响收敛速度、精度与稳定性？
• RQ3 在不同维度下，三种所提算法在误差、方差与计算成本方面的相对性能如何？
• RQ4 算法3中的路径相关反馈是否相比状态反馈方法带来更快的收敛速度与更高的精度？
• RQ5 这些方法能否在具有复杂非线性生成器的100维FBSDEs中实现高精度（例如，相对误差 < 0.1%）？

主要发现

• 算法3实现了最高的精度与稳定性，在10维测试案例中仅出现4.24×10⁻⁴的相对误差。
• 在100维测试中，算法3在4000次训练步骤后达到0.061%的相对误差，与显式解高度吻合。
• 算法3收敛所需的平均迭代步数最少（1087.8步），尽管每步耗时长于算法1与2。
• 算法2在数值结果中表现出最低方差（示例4中为1.262×10⁻⁹），表明其具有高稳定性，但在示例3中未能稳定收敛。
• 算法1与2每步计算更快，但需要更多迭代次数才能收敛，尤其在高维情形下更为明显。
• 所有三种算法在所有测试案例中均实现了低于1%的相对误差，证明了其在高维问题上的鲁棒性与可扩展性。