[論文レビュー] Optimized Auxiliary Particle Filters: adapting mixture proposals via convex optimization

Nicola Branchini, V́ıctor Elvira|arXiv (Cornell University)|Nov 18, 2020

Target Tracking and Data Fusion in Sensor Networks被引用数 6

ひとこと要約

本稿では、重要度付き重みの分散を最小化するために混合提案重みを凸最適化問題として定式化する、最適化された補助粒子フィルタ（OAPF）という新しいフレームワークを提案する。補助変数を混合重みとして解釈し、凸プログラミングにより最適化することで、非線形時系列モデルにおける最先端の粒子フィルターよりも顕著に高い推定精度を達成し、不偏かつ一貫性のある推定量を提供するが、計算コストはほぼ同等である。

ABSTRACT

Auxiliary particle filters (APFs) are a class of sequential Monte Carlo (SMC) methods for Bayesian inference in state-space models. In their original derivation, APFs operate in an extended state space using an auxiliary variable to improve inference. In this work, we propose optimized auxiliary particle filters, a framework where the traditional APF auxiliary variables are interpreted as weights in an importance sampling mixture proposal. Under this interpretation, we devise a mechanism for proposing the mixture weights that is inspired by recent advances in multiple and adaptive importance sampling. In particular, we propose to select the mixture weights by formulating a convex optimization problem, with the aim of approximating the filtering posterior at each timestep. Further, we propose a weighting scheme that generalizes previous results on the APF (Pitt et al. 2012), proving unbiasedness and consistency of our estimators. Our framework demonstrates significantly improved estimates on a range of metrics compared to state-of-the-art particle filters at similar computational complexity in challenging and widely used dynamical models.

研究の動機と目的

• 従来の補助粒子フィルタを上回る提案分布の最適化により、逐次モンテカルロ推論のための柔軟なフレームワークを構築すること。
• 提案分布における混合重みの原理的で凸最適化に基づく選択により、重要度付き重みの分散を低減すること。
• 非凸最適化に依存せずに、データ駆動型で適応可能な混合重みを可能にするよう、補助粒子フィルタの一般化と拡張を図ること。
• 計算複雑性が同程度であるにもかかわらず、最先端の粒子フィルタ（改善版APFおよびブートストラップPFを含む）を上回るフィルタリング性能を達成すること。

提案手法

• OAPFフレームワークは、APFにおける補助変数を重要度サンプリングの提案分布における混合重みとして再解釈し、混合成分の最適化を可能にする。
• 混合重みの選択を、特定のキーポイントにおけるフィルタリング事後分布に一致させる凸最適化問題として定式化する。
• 混合提案に用いるカーネルの数を柔軟に設定でき、粒子数とは独立しているため、適応的かつ効率的な近似が可能になる。
• 従来のAPF推定量を一般化し、周辺尤度推定量の不偏性と一貫性を保証する、新たな重み付け方式を提案する。
• 予測尤度と事後分布の構造を活用して、有効サンプルサイズの損失を最小化する凸目的関数を定義する。
• 最適化は各時刻で実行され、現在のフィルタリング分布に応じたオンラインでの提案の適応が可能になる。

実験結果

リサーチクエスチョン

• RQ1 凸最適化を用いて、重要度付き重みの分散を低減するための、混合重みの適応的選択が可能か？
• RQ2 補助粒子フィルタの枠組みを、証明可能な統計的性質を持つ柔軟でデータ駆動型の混合提案に一般化できるか？
• RQ3 凸プログラミングによる混合重みの最適化は、挑戦的な非線形時系列モデルにおいて、既存の粒子フィルターよりも優れたフィルタリング性能をもたらすか？
• RQ4 提案手法は、計算効率を維持したまま、不偏かつ一貫性のある推定量を達成できるか？

主な発見

• OAPFフレームワークは、確率的Lorenz 63モデルや多次元確率的ボラティリティモデルを含む非線形時系列モデルにおいて、最先端の粒子フィルタ（改善版APF（IAPF）など）と比較して、複数の指標で顕著に高い推定精度を達成した。
• 混合重み選択に用いた新しい凸最適化アプローチにより、重要度付き重みの分散が低減され、有効サンプルサイズの向上と推定量の精度向上が直接的に実現された。
• OAPFにおける周辺尤度推定量は、不偏かつ一貫性を持つことが証明され、Pittら（2012）の結果を一般化し、APFの理論的基盤を拡張した。
• 提案手法では、カーネルの数を粒子数とは独立して柔軟に設定でき、計算コストの増加なしに、より正確な近似が可能になった。
• 実験結果から、計算複雑性が同一であるにもかかわらず、OAPFはブートストラップPFおよびIAPFの両者を、フィルタリング精度と安定性の面で上回った。