[論文レビュー] Weak in the NEES?: Auto-tuning Kalman Filters with Bayesian Optimization

Zhaozhong Chen, Christoffer Heckman+2 more|arXiv (Cornell University)|Jul 23, 2018

Gaussian Processes and Bayesian Inference参考文献 2被引用数 6

ひとこと要約

本稿では、正規化推定誤差二乗（NEES）または正規化イノベーション二乗（NIS）を確率的目的関数として用いるベイジアン最適化フレームワークを提案する。ガウス過程の代理モデルによりコストの地形をモデル化することで、グローバル・ミニマを効率的に特定し、不確実性を定量化できる。本手法は、実際またはシミュレートされた真値を伴う非凸なチューニング問題において、従来の最適化手法を凌駆する。

ABSTRACT

Kalman filters are routinely used for many data fusion applications including navigation, tracking, and simultaneous localization and mapping problems. However, significant time and effort is frequently required to tune various Kalman filter model parameters, e.g. process noise covariance, pre-whitening filter models for non-white noise, etc. Conventional optimization techniques for tuning can get stuck in poor local minima and can be expensive to implement with real sensor data. To address these issues, a new "black box" Bayesian optimization strategy is developed for automatically tuning Kalman filters. In this approach, performance is characterized by one of two stochastic objective functions: normalized estimation error squared (NEES) when ground truth state models are available, or the normalized innovation error squared (NIS) when only sensor data is available. By intelligently sampling the parameter space to both learn and exploit a nonparametric Gaussian process surrogate function for the NEES/NIS costs, Bayesian optimization can efficiently identify multiple local minima and provide uncertainty quantification on its results.

研究の動機と目的

• 非凸な最適化の地形による手動によるカルマンフィルタチューニングの時間的・人的コストの高い課題に対処すること。
• 勾配ベースの手法で一般的に見られる局所的最小値を回避する、自動化されたブラックボックスチューニング手法の開発。
• 真値が利用可能な場合のNEES（真値を用いる）と、真値が利用不可の場合のNIS（センサデータのみを用いる）を、最適化の確率的性能指標として活用すること。
• ガウス過程の代理モデルによる推定最適パラメータの不確実性定量化。
• 線形系における本手法の有効性を示し、非線形系および実世界の応用への拡張を検討すること。

提案手法

• カルマンフィルタのパラメータ空間を探索するベイジアン最適化を用い、チューニングを確率的ブラックボックス最適化問題として扱う。
• パラメータ設定におけるNEESまたはNISコスト関数を近似するために、ガウス過程（GP）の代理モデルを採用する。
• 探索と活用のバランスを取るために、取得関数（例：期待改善）を適用し、パラメータ空間のサンプリングを制御する。
• 時間ステップにわたるモンテカルロシミュレーションによりNEESまたはNISコストを評価し、真値状態またはセンサデータのみを用いる。
• 非パラメトリックなGPモデルを用いて、予測の不確実性を保持したまま、潜在的なコスト面を学習する。
• 真値が利用不可であっても、プロセスノイズ分散（V）、プロセスノイズ共分散（Q）、観測ノイズ（R）のチューニングに本手法を適用可能である。

実験結果

リサーチクエスチョン

• RQ1 非凸なコスト地形が存在する状況下でも、ベイジアン最適化がカルマンフィルタのパラメータを効果的にチューニングできるか？
• RQ2 NEESおよびNISを確率的目的関数として用いることで、自動チューニングの収束性とロバスト性にどのような影響を与えるか？
• RQ3 本手法は複数の局所的最小値を特定でき、最適パラメータ推定の不確実性を定量化できるか？
• RQ4 収束速度と解の品質の観点から、GPベースの代理モデルは従来の最適化手法に比べてどのように優れているか？
• RQ5 真値が未知またはノイズを含む実世界のシステムへ、本手法はどの程度一般化可能か？

主な発見

• ケース1では、ベイジアン最適化アプローチが真の最適パラメータ値（V = 1）を的確に特定し、代理モデルの最小値が真値と非常に近い結果を示した。
• ケース2では、真値が利用不可な状況下でVとRを同時にチューニングしたが、複数の局所的最小値を同定し、最良の解としてR ≈ 1.063およびV ≈ 1.000を達成した。
• GPの代理モデルにおける不確実性バッファは、特に偽の局所的最小値（例：V ≈ 4.5）付近で高い曖昧さを明確に示した。
• コスト関数がノイズが多く非凸であっても、本手法はナーブな探索戦略を上回るロバスト性を示し、高品質な解を特定できた。
• 推定された軌道と真の軌道の可視的比較から、異なる局所的最小値が驚くほど類似した推定性能を示すことが判明し、グローバル最適化に加え不確実性の定量化が不可欠であることが強調された。
• 取得関数は探索と活用のバランスを的確に制御し、グローバル最小値付近にサンプルが集まる一方で、代替の最適解の不確実性を低減するための多様性を維持した。