[論文レビュー] Simulating Diffusion Bridges with Score Matching

Jeremy Heng, Valentin De Bortoli+2 more|arXiv (Cornell University)|Nov 14, 2021

Statistical Methods and Inference参考文献 42被引用数 5

ひとこと要約

本稿では、時間反転拡散過程とスコアマッチングを用いた変分推論により、計算不能な橋渡しの時間反転を近似することで、拡散ブリッジをシミュレートする新しいスコアベース手法を提案する。この手法により、オーランシュタイン＝ウーレン、金利、細胞分化プロセスを含む多様なモデルにおいて、効率的かつスケーラブルに条件付き拡散過程をシミュレート可能であり、高次元および複雑な設定でも高い正確性と頑健性を示している。

ABSTRACT

We consider the problem of simulating diffusion bridges, which are diffusion processes that are conditioned to initialize and terminate at two given states. The simulation of diffusion bridges has applications in diverse scientific fields and plays a crucial role in the statistical inference of discretely-observed diffusions. This is known to be a challenging problem that has received much attention in the last two decades. This article contributes to this rich body of literature by presenting a new avenue to obtain diffusion bridge approximations. Our approach is based on a backward time representation of a diffusion bridge, which may be simulated if one can time-reverse the unconditioned diffusion. We introduce a variational formulation to learn this time-reversal with function approximation and rely on a score matching method to circumvent intractability. Another iteration of our proposed methodology approximates the Doob's $h$-transform defining the forward time representation of a diffusion bridge. We discuss algorithmic considerations and extensions, and present numerical results on an Ornstein--Uhlenbeck process, a model from financial econometrics for interest rates, and a model from genetics for cell differentiation and development to illustrate the effectiveness of our approach.

研究の動機と目的

• 遷移密度が計算不能で高次元性が顕著な、特定の状態で開始および終了する条件付き拡散過程（拡散ブリッジ）のシミュレーションという、長年の課題に取り組むこと。
• 解析的解や計算コストの高い偏微分方程式（PDE）ソルバーに依存せずに、拡散ブリッジのシミュレーションに必要な時間反転過程をスケーラブルかつ柔軟に近似する手法を開発すること。
• スコアマッチングとニューラルネットワークを活用して時間反転ドリフトを学習し、ドゥーブのh変換のエンドツーエンドで微分可能かつ微分可能な近似を実現すること。
• 離散観測された拡散モデルにおける統計的推論のための実用的でアルゴリズム的に効率的なフレームワークを提供すること。特に、ファイナンシャル・エコノメトリクスやシステム生物学の応用分野を想定している。

提案手法

• 本手法は、拡散ブリッジの後向き時間表現を用い、時間反転過程のドリフトを変分推論により学習することで、時間反転過程をシミュレートする。
• 時間反転の学習を変分問題として定式化し、時間反転過程の対数密度の勾配を推定するためにスコアマッチング損失を最小化する。
• 密度推定を直接行わず、遷移密度のスコアに依存することで、前方過程からのサンプルパスを用いた学習が可能になる。
• ニューラルネットワークが時間反転ドリフトをパラメータ化し、サンプルパスを用いた確率的勾配最適化により変分損失を最小化する。
• 本手法は、前方時間におけるドゥーブのh変換の近似へと拡張され、重要度サンプリングやメトロポリス・ハスティングス法への応用が可能になる。
• マルチレイヤーパーセプトロンとサイン位置エンコーディングを用いて実装され、モーメンタム付きAdamによる最適化が行われ、複数の確率過程で検証されている。

実験結果

リサーチクエスチョン

• RQ1 明示的な密度推定を伴わずに、スコアマッチングを用いて拡散ブリッジの時間反転ドリフトを学習できるか？
• RQ2 ニューラルネットワークを用いた時間反転過程の変分近似は、高次元かつ非線形な設定において真の拡散ブリッジ分布をどれほど正確に再現できるか？
• RQ3 ブラウン運動ブリッジや補助過程近似といった既存手法と比較して、本手法のパスの正確性とサンプリング効率はどの程度優れているか？
• RQ4 本手法は、金利モデルや細胞分化モデルのように遷移密度が計算不能な多様な確率過程へ一般化可能か？
• RQ5 実際のシミュレーションタスクにおいて、時間ホライズンや次元数の増加に伴うスケーリング性能はいかがなものか？

主な発見

• 本手法は、テストされたすべてのモデル（オーランシュタイン＝ウーレン、金利、細胞分化）において、時間ホライズンや次元数の変動にかかわらず、正確な拡散ブリッジのシミュレーションを達成しており、頑健性を示している。
• オーランシュタイン＝ウーレン過程では、学習された時間反転ドリフトが解析解に非常に近づき、500回の最適化イテレーションおよびδt = 0.02で収束が確認された。
• 金利モデルでは、複雑な遷移密度の対数勾配を効果的に近似できた。1000回のイテレーションと1000本のサンプルパス（1イテレーションあたり）で安定した結果が得られた。
• 細胞分化モデルでは、T=16およびσ²=1の条件下でも正確性を維持した。2000回のイテレーションと100本のサンプルパス（1イテレーションあたり）で、スケーラビリティが裏付けられた。
• スコアマッチングの導入により、明示的な密度評価の必要がなくなり、PDEソルバーが失敗するような高次元設定でも、効率的な学習と推論が可能になった。
• フレームワークにより、効果的な重要度サンプリングとメトロポリス・ハスティングス補正が可能となり、後続の推論タスクにおけるパス提案の質が向上し、拒否率が低下した。