[论文解读] A Hierarchical Bayesian Model for Frame Representation

Lotfi Chaâri, Jean‐Christophe Pesquet+3 more|arXiv (Cornell University)|Nov 15, 2009

Image and Signal Denoising Methods参考文献 58被引用 6

一句话总结

该论文提出了一种分层贝叶斯模型，用于在信号与图像处理中估计框架系数及其超参数，采用混合马尔可夫链蒙特卡洛（MCMC）算法从后验联合分布中进行采样。该方法在噪声和有界误差条件下实现了精确估计，并在图像去噪方面相较于变分法和维纳方法表现出更优性能，尤其在使用广义高斯先验进行稀疏性建模时表现突出。

ABSTRACT

In many signal processing problems, it may be fruitful to represent the signal under study in a frame. If a probabilistic approach is adopted, it becomes then necessary to estimate the hyper-parameters characterizing the probability distribution of the frame coefficients. This problem is difficult since in general the frame synthesis operator is not bijective. Consequently, the frame coefficients are not directly observable. This paper introduces a hierarchical Bayesian model for frame representation. The posterior distribution of the frame coefficients and model hyper-parameters is derived. Hybrid Markov Chain Monte Carlo algorithms are subsequently proposed to sample from this posterior distribution. The generated samples are then exploited to estimate the hyper-parameters and the frame coefficients of the target signal. Validation experiments show that the proposed algorithms provide an accurate estimation of the frame coefficients and hyper-parameters. Application to practical problems of image denoising show the impact of the resulting Bayesian estimation on the recovered signal quality.

研究动机与目标

• 解决当合成算子非单射且系数不可观测时，框架系数及其超参数的估计挑战。
• 构建一个贝叶斯框架，以容纳有界噪声和灵活的先验分布，特别是用于稀疏表示的广义高斯（GG）先验。
• 设计高效的混合MCMC采样算法，用于系数与超参数的后验联合推断。
• 在合成数据与真实世界数据上验证该方法，尤其在各种噪声条件下的图像去噪表现。
• 证明所提出的MMSE估计器在信噪比（SNR）与结构相似性（SSIM）方面优于传统方法（如维纳法与变分法）。

提出的方法

• 构建一个分层贝叶斯模型，其中框架系数被赋予具有未知超参数的广义高斯（GG）先验。
• 通过最大距离约束对信号观测建模为有界扰动，从而导出在ℓp球上的似然函数。
• 推导出框架系数与超参数的后验联合分布，实现完整的贝叶斯推断。
• 提出结合吉布斯与梅特罗波利斯-黑斯廷斯步骤的混合MCMC算法，以从复杂且高维的后验分布中进行采样。
• 利用生成的样本通过经验平均法计算系数与超参数的MMSE估计。
• 采用定理A.2从单位ℓp球中采样，以生成有界误差模型中的噪声向量。

实验结果

研究问题

• RQ1 当由于合成算子非单射而导致框架系数无法直接观测时，如何实现其可靠估计？
• RQ2 在有界噪声条件下，如何在贝叶斯框架中有效学习框架系数先验的超参数？
• RQ3 使用具有未知超参数的广义高斯先验，如何提升稀疏信号表示与估计性能？
• RQ4 所提出的基于MCMC的估计方法在图像恢复中，相较于经典方法（如维纳法与变分法）的性能优势有多大？
• RQ5 该框架能否推广至其他先验模型或超越加性噪声的退化观测？

主要发现

• 所提出的MCMC算法即使在噪声和不完整观测条件下，也能实现对框架系数与超参数的精确估计。
• 在图像去噪任务中，当p=3且η=700时，MMSE估计器达到19.29 dB的SNR与0.771的SSIM，优于维纳法与变分法。
• 当p=1且η=300000时，SNR达到18.11 dB，SSIM为0.755，表明该方法在不同噪声水平与框架模型下均具鲁棒性。
• 该方法通过广义高斯先验有效建模稀疏性，其信号恢复效果优于对数凹函数类替代方案。
• 该框架可扩展至其他先验族，并可适配模糊等线性退化模型，显示出广泛的应用潜力。