[論文レビュー] A Hierarchical Bayesian Model for Frame Representation

Lotfi Chaâri, Jean‐Christophe Pesquet+3 more|arXiv (Cornell University)|Nov 15, 2009

Image and Signal Denoising Methods参考文献 58被引用数 6

ひとこと要約

本稿では、信号および画像処理におけるフレーム係数とそのハイパーパrameterの推定のための階層ベイズモデルを提案する。ハイブリッドマルコフ連鎖モンテカルロ（MCMC）アルゴリズムを用いて、結合事後分布からのサンプリングを実施する。この手法により、ノイズが存在する状況や誤差が有界な条件下でも高精度な推定が可能となり、特にスパarsityモデリングに一般化ガウス（GG）事前分布を用いた場合、変分法やウィーナー法と比較して画像ノイズ除去の性能が優れていることが示された。

ABSTRACT

In many signal processing problems, it may be fruitful to represent the signal under study in a frame. If a probabilistic approach is adopted, it becomes then necessary to estimate the hyper-parameters characterizing the probability distribution of the frame coefficients. This problem is difficult since in general the frame synthesis operator is not bijective. Consequently, the frame coefficients are not directly observable. This paper introduces a hierarchical Bayesian model for frame representation. The posterior distribution of the frame coefficients and model hyper-parameters is derived. Hybrid Markov Chain Monte Carlo algorithms are subsequently proposed to sample from this posterior distribution. The generated samples are then exploited to estimate the hyper-parameters and the frame coefficients of the target signal. Validation experiments show that the proposed algorithms provide an accurate estimation of the frame coefficients and hyper-parameters. Application to practical problems of image denoising show the impact of the resulting Bayesian estimation on the recovered signal quality.

研究の動機と目的

• 合成作用素が非一対一である場合や係数が観測不能である場合に、フレーム係数とそのハイパーパrameterを推定する課題に対処すること。
• 有界ノイズと柔軟な事前分布（特にスパース表現に適した一般化ガウス（GG）事前分布）を扱えるベイズ枠組みを構築すること。
• 係数とハイパーパrameterの結合事後分布を推論するための効率的なハイブリッドMCMCサンプリングアルゴリズムを設計すること。
• 合成データおよび実世界のデータを用いて手法を検証すること、特にさまざまなノイズ条件下での画像ノイズ除去に焦点を当てる。
• SNRおよびSSIMの観点から、従来のウィーナー法や変分的手法と比較して、提案されたMMSE推定量が優れていることを示すこと。

提案手法

• フレーム係数に未知のハイパーパrameterを有する一般化ガウス（GG）事前分布を割り当てる階層ベイズモデルを定式化する。
• 最大距離制約を用いて信号観測値を有界な摂動としてモデル化し、ℓp球上での尤度関数を導出する。
• フレーム係数とハイパーパrameterの結合事後分布を導出し、完全なベイズ推論を可能にする。
• Gibbsステップとメトロポリス・ハスティングスステップを組み合わせたハイブリッドMCMCアルゴリズムを提案し、複雑で高次元の事後分布からのサンプリングを実現する。
• 得られたサンプルを用いて、経験的平均化により係数およびハイパーパrameterのMMSE推定量を計算する。
• 有界誤差モデルにおけるノイズベクトルの生成に、定理A.2を用いる。

実験結果

リサーチクエスチョン

• RQ1 合成作用素が非一対一であるためにフレーム係数が直接観測不能である状況下で、どのようにして信頼性の高い係数推定が可能か？
• RQ2 有界ノイズ下でベイズ枠組み内でフレーム係数事前分布のハイパーパrameterを効果的に学習する最良の方法は何か？
• RQ3 未知のハイパーパrameterを有する一般化ガウス事前分布を用いることで、スパース信号表現と推定にどのような改善がもたらされるか？
• RQ4 提案されたMCMCベースの推定手法は、ウィーナー法や変分的手法と比較して、画像回復においてどの程度優れているか？
• RQ5 この枠組みは、加法的ノイズを超えた他の事前分布モデルや劣化観測（例：ぼかし）へ一般化可能か？

主な発見

• 提案されたMCMCアルゴリズムは、ノイズが存在するか、観測が不完全な状況下でも、フレーム係数とハイパーパrameterの両方を高精度に推定できる。
• 画像ノイズ除去において、p=3およびη=700の場合、SNRは19.29 dB、SSIMは0.771に達し、ウィーナー法や変分的手法を上回った。
• p=1およびη=300000の場合、SNRは18.11 dB、SSIMは0.755に達し、異なるノイズレベルやフレームモデルに対してもロバストであることが示された。
• 一般化ガウス事前分布を用いることでスパarsityを効果的にモデル化でき、対数凸でない代替手法よりも優れた信号回復性能を達成した。
• この枠組みは他の事前分布族へも拡張可能であり、ぼかしなどの線形劣化モデルへも適応可能であるため、広範な応用が期待できる。