[論文レビュー] Neural Backward Filtering Forward Guiding

Gefan Yang, Frank van der Meulen+1 more|arXiv (Cornell University)|Jan 30, 2026

Morphological variations and asymmetry被引用数 0

ひとこと要約

NBFFG は、解析的に扱いやすい backward guide と neural residual を組み合わせて、離散および連続ダイナミクスの木上平滑後方分布を推定する変分フレームワークを開発し、パスごとのサブサンプリングとアモルタイズド学習を可能にする。線形・多モーダル・高次元系統推定タスクで性能向上を示す。

ABSTRACT

Inference in non-linear continuous stochastic processes on trees is challenging, particularly when observations are sparse (leaf-only) and the topology is complex. Exact smoothing via Doob's $h$-transform is intractable for general non-linear dynamics, while particle-based methods degrade in high dimensions. We propose Neural Backward Filtering Forward Guiding (NBFFG), a unified framework for both discrete transitions and continuous diffusions. Our method constructs a variational posterior by leveraging an auxiliary linear-Gaussian process. This auxiliary process yields a closed-form backward filter that serves as a ``guide'', steering the generative path toward high-likelihood regions. We then learn a neural residual--parameterized as a normalizing flow or a controlled SDE--to capture the non-linear discrepancies. This formulation allows for an unbiased path-wise subsampling scheme, reducing the training complexity from tree-size dependent to path-length dependent. Empirical results show that NBFFG outperforms baselines on synthetic benchmarks, and we demonstrate the method on a high-dimensional inference task in phylogenetic analysis with reconstruction of ancestral butterfly wing shapes.

研究の動機と目的

• 葉のみ観測と複雑なトポロジーを持つ非線形、木構造の確率過程における平滑化の動機づけ。
• 解析的な後向ガイダンスとニューラル補正を組み合わせた离散・連続ダイナミクス共通の統一フレームワークを開発。
• 大規模な木にスケールするよう、パス-wise サブサンプリングと木内学習のアモルタイズを用いて学習の複雑さを削減。
• 線形ベンチマーク、モーダルで非線形なシステム、および高次元の系統推定タスクで頑健性と精度を実証。

提案手法

• 扱いにくい h-関数を解析的に扱える補助的な線形ガウス過程に置換して閉じた後向きフィルタを得ることで guided proposal を構築。
• 変分後方をニューラル残差として定義—離散エッジには正規化フローとして、連続経路にはニューラルSDEとしてパラメータ化—非線形の不一致を捉える。
• 変分後方と真の後方との KL 発散と葉の観測尤度を含む項を用いてロスを計算（ELBO 形式）。
• 離散と連続ダイナミクスのロスを表現する二つの系継承を用い、 guided proposal とニューラルトランスフォームで計算を実現。
• full-tree ロスの有偏推定を回避するためにパス-wise サブサンプリングを適用し、計算を木のサイズからパス長に削減。

Figure 1 : Validation on Linear Gaussian Benchmarks. We compare the converged training loss against the analytical RTS smoother baseline. (a) Topological Scalability: Relative error decreases as tree complexity ( $N_{\mathrm{depth}},N_{\mathrm{branch}}$ ) grows, showing that our path-wise amortizati

実験結果

リサーチクエスチョン

• RQ1 離散・連続ダイナミクスを持つ木上の平滑化に対して Doob h-transform 後方分布を近似できるハイブリッド guided-proposal フレームワークは成立するか。
• RQ2 線形ガウスガイドを超えるドリフトと非線形性をニューラル残差（正規化フローまたはニューラルSDE）がどの程度補えるか。
• RQ3 パス-wise サブサンプリングは木の深さや次元にわたる後方の精度を維持しつつ、偏りのないスケーラブルな学習を提供するか。
• RQ4 共有ネットワークを用いた木内アモルタイズド学習は、深く不均一な木構造全体で一般化可能か。
• RQ5 NBFFG は線形ベンチマーク、モーダルな非線形系、そして高次元の系統推定タスクでどのように性能を発揮するか。

主な発見

• NBFFG フレームワークは、扱いやすい guided proposal とニューラル residual を組み合わせることで変分後方を構成し、離散および連続の木エッジの学習を効率化。
• パス-wise の無偏推定量により、1 回の反復で根-葉経路1つに対して学習を行い、計算コストを木のサイズからパス長へ削減。
• 線形モデルでは解析的な真値と高い一致を示し、モード崩壊のため従来の guided が失敗する多モーダル後方を回復。
• 実験結果は高次元性に対して頑健性を示し、拡散ブリッジと非線形ダイナミクスを合成的および系統推定設定で効果的に扱えることを示す。
• 親ノード状態・エッジ持続時間・文脈を条件化した共有ネットワークによるアモルタイズド学習は、大規模で不規則な木に対する推論をスケーラブルにする。

Figure 2 : Empirical distributions of 500 independent samples of the guided proposal (gray) and the learned variational posterior (orange) against the analytical ground truth (RTS, green contours) at different tree depths.