[論文レビュー] Bayesian Deformable Models Building via Stochastic Approximation Algorithm: A Convergence Study

Stéphanie Allassonnière, Estelle Kuhn+1 more|arXiv (Cornell University)|Jun 6, 2007

Morphological variations and asymmetry参考文献 9被引用数 13

ひとこと要約

本稿では、非整列で幾何的に可変なデータに対するベイジアン可変モデルにおけるMAP推定量の近似を目的として、SAEMにインspiredされた確率的近似アルゴリズムを提案する。観測尤度関数の臨界点への収束を証明し、手書き数字画像を用いて実証し、ノイズが多い条件下でも、決定的EMに類似した手法に対するロバストな代替手法を提供する。

ABSTRACT

The problem of the definition and the estimation of generative models based on deformable templates from raw data is of particular importance for modelling non aligned data affected by various types of geometrical variability. This is especially true in shape modelling in the computer vision community or in probabilistic atlas building for Computational Anatomy (CA). A first coherent statistical framework modelling the geometrical variability as hidden variables has been given by Allassonniere, Amit and Trouve (JRSS 2006). Setting the problem in a Bayesian context they proved the consistency of the MAP estimator and provided a simple iterative deterministic algorithm with an EM flavour leading to some reasonable approximations of the MAP estimator under low noise conditions. In this paper we present a stochastic algorithm for approximating the MAP estimator in the spirit of the SAEM algorithm. We prove its convergence to a critical point of the observed likelihood with an illustration on images of handwritten digits.

研究の動機と目的

• 非整列データ（例：計算解剖学やコンピュータビジョンにおけるもの）における幾何的可変性のモデリングの課題に対処すること。
• 低ノイズ仮定下でのMAP推定において、決定的EMに類似した手法を改善する確率的アルゴリズムを開発すること。
• 提案されたアルゴリズムが観測尤度関数の臨界点に収束することを理論的に確立すること。
• 生の可変データ入力に基づく、可変テンプレートモデルのための実用的かつ一貫性のある推定フレームワークを提供すること。

提案手法

• 形状および画像解析の文脈におけるベイジアン可変モデルフレームワークに、SAEM（確率的近似EM）アルゴリズムを適応する。
• 幾何的可変性を隠れ変数として扱い、MAP推定量を繰り返し推定するための確率的近似スキームを導入する。
• Eステップにおける十分統計量の近似にモンテカルロサンプリングを用い、決定的計算の代わりに確率的計算を実施する。
• 2段階の反復プロセスを採用する：隠れ変形のための確率的サンプリング、その後に減衰する利得列を用いたパラメータ更新。
• アルゴリズムは、隠れ変形の事後分布からのサンプリングと、減衰する利得列を用いたパラメータ更新を交互に繰り返す。
• 弱い正則性条件の下で、観測尤度関数の臨界点への収束が理論的に示される。

実験結果

リサーチクエスチョン

• RQ1 ノイズのある条件下で、確率的アルゴリズムは、可変モデルのMAPパラメータ推定において、決定的EMに類似した手法を上回ることができるか？
• RQ2 提案された確率的近似スキームは、ベイジアン可変モデルの文脈で意味のある解に収束するか？
• RQ3 このアルゴリズムは、手書き数字や解剖的構造などの非整列データにおける幾何的可変性をどのように処理するか？
• RQ4 提案された確率的アルゴリズムが観測尤度関数の臨界点に収束する理論的根拠は何か？
• RQ5 複雑な可変性を示す高次元の形状または画像データにおいて、アルゴリズムは一貫性と安定性を維持できるか？

主な発見

• 提案された確率的アルゴリズムは、弱い正則性条件の下で、観測尤度関数の臨界点にほとんど確実に収束する。
• 収束結果により、MAP推定における可変モデルの理論的基盤が、決定的EMに類似した手法の範囲を越えて拡張される。
• 特に、近似誤差が決定的ステップに蓄積される可能性がある低ノイズ条件下では、決定的アルゴリズムよりもよりロバストな代替手法を提供する。
• 実データ（手書き数字画像）を用いた実験により、実用的応用性と安定性が実証された。
• Eステップにおける確率的サンプリングの使用により、複雑な幾何的可変性のモデリングにおける柔軟性とスケーラビリティが向上する。