[论文解读] Bayesian Deformable Models Building via Stochastic Approximation Algorithm: A Convergence Study

Stéphanie Allassonnière, Estelle Kuhn+1 more|arXiv (Cornell University)|Jun 6, 2007

Morphological variations and asymmetry参考文献 9被引用 13

一句话总结

本文提出一种受SAEM启发的随机逼近算法，用于在非对齐、几何可变数据的贝叶斯可变形模型中近似MAP估计器。该算法证明可收敛至观测似然函数的临界点，实验基于手写数字图像，为在噪声条件下提供一种鲁棒的确定性EM类方法替代方案。

ABSTRACT

The problem of the definition and the estimation of generative models based on deformable templates from raw data is of particular importance for modelling non aligned data affected by various types of geometrical variability. This is especially true in shape modelling in the computer vision community or in probabilistic atlas building for Computational Anatomy (CA). A first coherent statistical framework modelling the geometrical variability as hidden variables has been given by Allassonniere, Amit and Trouve (JRSS 2006). Setting the problem in a Bayesian context they proved the consistency of the MAP estimator and provided a simple iterative deterministic algorithm with an EM flavour leading to some reasonable approximations of the MAP estimator under low noise conditions. In this paper we present a stochastic algorithm for approximating the MAP estimator in the spirit of the SAEM algorithm. We prove its convergence to a critical point of the observed likelihood with an illustration on images of handwritten digits.

研究动机与目标

• 为解决在计算解剖学与计算机视觉等应用中，对非对齐数据的几何可变性建模挑战。
• 开发一种随机算法，以在低噪声假设下改进确定性EM类方法在MAP估计中的表现。
• 建立所提算法收敛至观测似然函数临界点的理论基础。
• 为使用原始、可变数据输入的可变形模板模型提供一种实用且一致的估计框架。

提出的方法

• 将SAEM（随机逼近EM）算法适配至用于形状与图像分析的贝叶斯可变形模型框架。
• 引入一种随机逼近方案，通过将几何可变性视为隐变量，迭代估计MAP估计器。
• 使用蒙特卡洛采样来近似E步中的充分统计量，以随机计算替代确定性计算。
• 采用两阶段迭代过程：先对隐变量进行随机采样，再通过随机逼近方法更新参数。
• 算法在从隐变形后验分布中采样与使用递减增益序列更新模型参数之间交替进行。
• 通过在温和正则条件下证明算法收敛至观测似然函数的临界点，建立理论收敛性。

实验结果

研究问题

• RQ1 在噪声条件下，该随机算法是否能在可变形模型的MAP参数估计中优于确定性EM类方法？
• RQ2 在贝叶斯可变形模型背景下，所提出的随机逼近方案是否收敛至有意义的解？
• RQ3 该算法如何处理手写数字或解剖结构等非对齐数据中的几何可变性？
• RQ4 所提随机算法收敛至观测似然函数临界点的理论依据是什么？
• RQ5 在具有复杂可变性的高维形状或图像数据中，该算法能否保持一致性和稳定性？

主要发现

• 在温和正则条件下，所提随机算法以几乎必然性收敛至观测似然函数的临界点。
• 该收敛结果将MAP估计在可变形模型中的理论基础拓展至确定性EM类方法之外。
• 该方法为确定性算法提供了一种更具鲁棒性的替代方案，尤其在低噪声条件下，此时确定性步骤中的近似误差可能累积。
• 该算法在真实数据（手写数字图像）上得到验证，展示了其实际适用性与稳定性。
• 在E步中使用随机采样提升了建模复杂几何可变性的灵活性与可扩展性。