[論文レビュー] Kalman smoothing and block tridiagonal systems: new connections and numerical stability results

Aleksandr Y. Aravkin, BRADLEY B. BELL+2 more|arXiv (Cornell University)|Mar 21, 2013

Statistical and numerical algorithms参考文献 24被引用数 4

ひとこと要約

本稿は、カルマンスムージングアルゴリズム—Rauch-Tung-Striebel (RTS)、Mayne-Fraser (MF)、MayneのアルゴリズムA (M)—を、ブロック三重対角系に対する行列分解手法として再解釈し、新たな数値的安定性特性を明らかにした。M（逆方向ブロック三重対角アルゴリズムに同等）は、RTSおよびMFよりも強い安定性保証を提供することを証明した。また、良好に条件付けられた系において並列処理可能で数値的に安定な、新規のハイブリッドFBT/BBTスムージング方式を提案した。

ABSTRACT

The Rauch-Tung-Striebel (RTS) and the Mayne-Fraser (MF) algorithms are two of the most popular smoothing schemes to reconstruct the state of a dynamic linear system from measurements collected on a fixed interval. Another (less popular) approach is the Mayne (M) algorithm introduced in his original paper under the name of Algorithm A. In this paper, we analyze these three smoothers from an optimization and algebraic perspective, revealing new insights on their numerical stability properties. In doing this, we re-interpret classic recursions as matrix decomposition methods for block tridiagonal matrices. First, we show that the classic RTS smoother is an implementation of the forward block tridiagonal (FBT) algorithm (also known as Thomas algorithm) for particular block tridiagonal systems. We study the numerical stability properties of this scheme, connecting the condition number of the full system to properties of the individual blocks encountered during standard recursion. Second, we study the M smoother, and prove it is equivalent to a backward block tridiagonal (BBT) algorithm with a stronger stability guarantee than RTS. Third, we illustrate how the MF smoother solves a block tridiagonal system, and prove that it has the same numerical stability properties of RTS (but not those of M). Finally, we present a new hybrid RTS/M (FBT/BBT) smoothing scheme, which is faster than MF, and has the same numerical stability guarantees of RTS and MF.

研究の動機と目的

• 主な3つのカルマンスムージングアルゴリズム—RTS、MF、M—の数値的安定性を、最適化および代数的視点から分析すること。
• これらのスムージング手法を、ブロック三重対角系に対する行列分解手法として再定式化し、より深い安定性解析を可能にすること。
• RTS、MF、Mの安定性保証を特定・比較し、特に条件数が悪い系の設定下での挙動を評価すること。
• 前向きおよび後向きのブロック三重対角法を組み合わせた、より効率的で安定性に優れた新規のハイブリッドスムージングアルゴリズムを開発すること。
• ブロック三重対角ソルバーの安定性は、全体のシステムの条件数だけでなく、個々のブロックの固有値の範囲に依存することを示すこと。

提案手法

• 対称的ブロック三重対角系を含む最小二乗問題としてカルマンスムージングを再定式化する。
• 個々のブロックの最小および最大固有値を用いて、ブロック三重対角系の固有値に上限を設定する。
• RTSスムージングが、ブロック三重対角系における前向きブロック三重対角（FBT）アルゴリズム（トーマス法）と数学的に同等であることを証明する。
• 後向きブロック三重対角（BBT）アルゴリズムを導入し、それがメイヌのアルゴリズムA（M）と同等であり、優れた数値的安定性を示すことを証明する。
• MFスムージングが、RTSと同様に同じブロック三重対角系を解くことになり、同じ安定性特性を有するが、Mほど強い保証は持たないことを示す。
• 前向きおよび後向きのパスを並列で実行し、1回の結合ステップで終了するハイブリッドFBT/BBTスムージング方式を提案する。これにより計算効率が向上する。

実験結果

リサーチクエスチョン

• RQ1 RTS、MF、Mスムージングの数値的安定性特性は、対応するブロック三重対角系の条件数とどのように関係しているか？
• RQ2 RTSおよびMFスムージングは、ブロック三重対角系に対する行列分解手法として解釈可能か？その安定性に与える影響は何か？
• RQ3 Mスムージング（アルゴリズムA）がRTSおよびMFよりも数値的により安定なのはなぜか？その理由を代数的に形式化できるか？
• RQ4 MFの並列性とMの安定性、FBTの効率性を併せ持つ新規のスムージングアルゴリズムを設計可能か？
• RQ5 再帰的処理における中間ブロックの固有値は、カルマンスムージングにおけるブロック三重対角ソルバー全体の安定性にどのように影響するか？

主な発見

• RTSスムージングは、数学的に前向きブロック三重対角（FBT）アルゴリズムと同等であり、その安定性はシステム全体の条件数に依存する。
• Mスムージング（アルゴリズムA）は、後向きブロック三重対角（BBT）アルゴリズムに同等であり、個々のブロックの固有値を独立して制御できるため、悪条件のシステムに対しても数値的安定性を維持する。
• MFスムージングは、RTSと同様に同じブロック三重対角系を解くため、同じ数値的安定性特性を有するが、Mほど強い保証は持たない。
• 新規のハイブリッドFBT/BBTスムージングアルゴリズムを提案した。この方式は並列処理を可能にし、別個の結合ステップの必要性を排除し、良好に条件付けられたシステムではFBTの安定性を引き継ぐ。
• BBTアルゴリズム（およびM）の安定性は、システム全体の条件数とは独立して保証される。これは、中間ブロックの固有値がシステム全体の固有値によって境界付けられるためである。
• 解析により、システムの最後のブロックが全体の安定性に顕著な影響を及ぼすことが示され、これらのブロックを変更することでシステムの条件付けを改善できる可能性がある。