[論文レビュー] Differentiating through Stochastic Differential Equations: A Primer

Rishi Leburu, Levon Nurbekyan+1 more|arXiv (Cornell University)|Jan 13, 2026

Risk and Portfolio Optimization被引用数 0

ひとこと要約

このプライマーは、ItôおよびStratonovichダイナミクスについて、discretize-then-optimizeとoptimize-then-discretizeの2つの補完的アプローチを用いてSDEを微分する方法を詳しい導出とBlack–Scholesの例とともに提示します。

ABSTRACT

Dynamical systems are essential to model various phenomena in physics, finance, economics, and are also of current interest in machine learning. A central modeling task is investigating parameter sensitivity, whether tuning atmospheric coefficients, computing financial Greeks, or optimizing neural networks. These sensitivities are mathematically expressed as derivatives of an objective function with respect to parameters of interest and are rarely available analytically, necessitating numerical methods for approximating them. While the literature for differentiation of deterministic systems is well-covered, the treatment of stochastic systems, such as stochastic differential equations (SDEs), in most curricula is less comprehensive than the subtleties arising from the interplay of noise and discretization require. This paper provides a primer on numerical differentiation of SDEs organized as a two-tale narrative. Tale 1 demonstrates differentiating through discretized SDEs, known the discretize-optimize approach, is reliable for both Itô and Stratonovich calculus. Tale 2 examines the optimize-discretize approach, investigating the continuous limit of backward equations from Tale 1 corresponding to the desired gradients. Our aim is to equip readers with a clear guide on the numerical differentiation of SDEs: computing gradients correctly in both Itô and Stratonovich settings, understanding when discretize-optimize and optimize-discretize agree or diverge, and developing intuition for reasoning about stochastic differentiation beyond the cases explicitly covered.

研究の動機と目的

• 物理学、金融、機械学習における感度とパラメータのための確率的動的システムの数値微分の必要性を動機付ける。
• SDEを微分する際にノイズと離散化から生じる微妙な違いを明らかにする。
• SDEの目的関数の勾配計算を実装する際の教室向け・アクセスしやすいガイダンスを提供する。
• 2つのナラティブ・テイルを通じて決定論的ODE微分技術を確率的設定へ橋渡しする。

提案手法

• Discretize-then-optimize: Euler-Maruyama（Itô）またはHeun（Stratonovich）スキームで前向きSDEを離散化し、離散目的関数を自動微分で微分する。
• パスワイズ勾配を、初期状態に対する離散目的関数を微分することにより推定し、バックワード（アジョイント）またはフォワード微分を可能にする。ItôとStratonovichのバックワード・アジョイント再帰を示す。
• Itôの場合、離散アジョイントは連続アジョイントに収束することを示し、ランニングコストと追加パラメータを状態拡張で処理する方法を論じる。
• Stratonovich最適化微分をHeun離散化と組み合わせて、正しい連続極限を得、対応する離散アジョイント再帰を導出する。
• SDEのパラメータ（例：θ）やランニングコスト（Y）に対する感度を計算するために、状態をパラメータまたはランニングコスト加算子で拡張する。
• Black–Scholesモデルで数値検証を行い、離散アジョイント勾配を解析的Greeksと比較し、収束挙動を観察する。

実験結果

リサーチクエスチョン

• RQ1 ItôおよびStratonovich形式のSDEスキームを離散化して微分することにより、SDE目的関数の勾配を計算できるか。
• RQ2 離散アジョイントが時間刻みが0に近づくと定義された連続アジョイント過程へ収束するか、またdiscretize-optimizeとoptimize-discretizeはこの極限でどう比較されるか。
• RQ3 Euler-Maruyama（Itô）対Heun（Stratonovich）といった離散化の選択が勾配推定の精度・収束にどう影響するか。
• RQ4 状態拡張とバックワードアジョイントを用いて、パラメータとランニングコストを勾配計算へ組み込む方法は。

主な発見

• Discretize-then-optimizeは、勾配が確率的パスを平均した場合に、ItôおよびStratonovich SDEの正しい勾配を与える。
• バックワード（アジョイント）再帰は、全体のヤコビ行列伝播より計算コストを削減し、パスワイズ勾配推定を効率化する。
• Stratonovich SDEの場合、HeunスキームはStratonovich極限を保持し、実行可能な離散アジョイントを提供する前向きに適合した離散化を提供する。
• Black–Scholesにおける数値検証は、Euler-Maruyama離散化でΔtを小さくすると勾配誤差はO(sqrt(Δt))に減少し、モンテカルロノイズにより小さいΔtでプラトーが生じることを示す。
• 状態をパラメータやランニングコストYを含むように拡張することで、初期条件とパラメータ（θ、ランニングコストY）に対する同時微分が可能になる。
• optimize-discretizeアプローチは、一般にはItô SDEに対して偏りが生じやすいため公平とは言えないが、discretize-optimizeは離散目的関数の正確な勾配を得るための安全で直接的な方法であり続ける。