[論文レビュー] Differentiable Particle Filtering via Entropy-Regularized Optimal Transport

Adrien Corenflos, Jim Thornton+2 more|arXiv (Cornell University)|Feb 15, 2021

Gaussian Processes and Bayesian Inference被引用数 13

ひとこと要約

この論文は、従来のパーティクルフィルタリングにおけるリサンプリングの非微分可能性を克服するため、エントロピー正則化最適輸送に基づく微分可能パーティクルフィルタを提案する。標準的なリサンプリングを微分可能な輸送に基づく手順に置き換えることで、勾配ベース最適化による状態空間モデルのエンドツーエンド学習が可能となり、変分推論および最尤推定の両設定で分散が低く、収束性が向上する。

ABSTRACT

Particle Filtering (PF) methods are an established class of procedures for performing inference in non-linear state-space models. Resampling is a key ingredient of PF, necessary to obtain low variance likelihood and states estimates. However, traditional resampling methods result in PF-based loss functions being non-differentiable with respect to model and PF parameters. In a variational inference context, resampling also yields high variance gradient estimates of the PF-based evidence lower bound. By leveraging optimal transport ideas, we introduce a principled differentiable particle filter and provide convergence results. We demonstrate this novel method on a variety of applications.

研究の動機と目的

• パーティクルフィルタリングにおけるリサンプリングの非微分性を解消し、状態空間モデルのエンドツーエンド学習を妨げる要因を除去すること。
• 従来のリサンプリングの代替として原理的かつ微分可能な手法を構築し、パーティクルフィルタの統計的整合性を保持すること。
• 非線形・非ガウス型状態空間モデルにおける変分推論および最尤推定において、効果的な勾配ベース最適化を可能にすること。
• 標準的なパーティクルフィルタリングおよび確率的最尤推定と比較して、ELBO最大化および尤度推定の性能向上を実証すること。

提案手法

• 重み付きパーティクルを均一な重みを持つパーティクルにマッピングするエントロピー正則化最適輸送を用いた微分可能なリサンプリング手法を提案する。
• 多項分布リサンプリングを、経験的測度間の正則化 Wasserstein 距離を最小化する輸送マップに置き換える。
• Sinkhorn アルゴリズムを用いて最適輸送計画を効率的に計算し、バックプロパゲーションによる微分可能なリサンプリングを実現する。
• 微分可能なリサンプリングを標準的なパーティクルフィルタリングフレームワークに統合し、全プロセスにわたる勾配計算を可能にするとともに、整合性を維持する。
• 変分推論と最尤推定にそれぞれ ELBO と SMLE 目的関数を適用する。
• 再パrameter化トリックを用いてパーティクルの微分可能なサンプリングを実現し、フィルタリング手順全体の完全な微分可能性を保証する。

実験結果

リサーチクエスチョン

• RQ1 最適輸送を用いることで、統計的整合性を保持しつつ、パーティクルフィルタリングにおける微分可能なリサンプリングステップを構築できるか？
• RQ2 提案手法の微分可能パーティクルフィルタは、標準的なパーティクルフィルタリングと比較して、変分推論における勾配推定の分散を低減できるか？
• RQ3 非線形状態空間モデルにおける最尤推定において、収束性と推定精度を向上させられるか？
• RQ4 RMSE および ELBO 最大化の観点から、微分可能パーティクルフィルタは標準的なパーティクルフィルタリングおよび確率的最尤推定と比較して、性能に優れているか？

主な発見

• 微分可能パーティクルフィルタ（DPF）は、標準的なパーティクルフィルタリングおよび確率的 MLE よりも顕著に低い RMSE を達成しており、B を 1 から 4 に増加させると RMSE が 1.94 から 1.30 に低下する。
• DPF を用いた ELBO 最大化は、標準的な PF や SMLE を上回り、B=10 の場合 RMSE が 1.37 に安定化するなど、優れた収束性を示す。
• 本手法により、変分 RNN やロボットロケーションシステムを含む複雑なモデルのエンドツーエンド学習が可能となり、微分可能なリサンプリングにより安定した最適化が達成される。
• エントロピー正則化最適輸送の使用により、微分可能性を保ちつつ勾配推定の分散を低く抑え、信頼性の高い最適化を可能にする。
• 実験的結果から、サンプル数 B が増加するにつれて、DPF を用いた ELBO 評価値が真の ELBO に収束することが示され、整合性が検証された。
• VRNN およびロボットロケーションタスクの両方において、DPF はより優れたテストセット性能を達成し、多様な時系列モデリング応用分野におけるロバスト性を示している。