[論文レビュー] Revisiting Bayesian Blind Deconvolution

David Wipf, Haichao Zhang|arXiv (Cornell University)|May 10, 2013

Advanced Image Processing Techniques参考文献 40被引用数 96

ひとこと要約

本稿は、変分ベイズ（VB）ブラインドデコンボリューションを、画像、ぼかしカーネル、ノイズレベルの間で特徴的な結合ペナルティを課した新しいMAP推定問題として再解釈し、VBの成功が本質的なスケール不変性、相対的凸性、局所最小値回避に起因することを明らかにする。この再定式化により、画像の事前分布の選択に対する厳密な基準が得られ、驚くべきことに、自然画像の統計を反映する必要がないことが示され、実験的結果を通じて透明な改善と理論的妥当性が裏付けられる。

ABSTRACT

Blind deconvolution involves the estimation of a sharp signal or image given only a blurry observation. Because this problem is fundamentally ill-posed, strong priors on both the sharp image and blur kernel are required to regularize the solution space. While this naturally leads to a standard MAP estimation framework, performance is compromised by unknown trade-off parameter settings, optimization heuristics, and convergence issues stemming from non-convexity and/or poor prior selections. To mitigate some of these problems, a number of authors have recently proposed substituting a variational Bayesian (VB) strategy that marginalizes over the high-dimensional image space leading to better estimates of the blur kernel. However, the underlying cost function now involves both integrals with no closed-form solution and complex, function-valued arguments, thus losing the transparency of MAP. Beyond standard Bayesian-inspired intuitions, it thus remains unclear by exactly what mechanism these methods are able to operate, rendering understanding, improvements and extensions more difficult. To elucidate these issues, we demonstrate that the VB methodology can be recast as an unconventional MAP problem with a very particular penalty/prior that couples the image, blur kernel, and noise level in a principled way. This unique penalty has a number of useful characteristics pertaining to relative concavity, local minima avoidance, and scale-invariance that allow us to rigorously explain the success of VB including its existing implementational heuristics and approximations. It also provides strict criteria for choosing the optimal image prior that, perhaps counter-intuitively, need not reflect the statistics of natural scenes. In so doing we challenge the prevailing notion of why VB is successful for blind deconvolution while providing a transparent platform for introducing enhancements.

研究の動機と目的

• 変分ベイズ（VB）ブラインドデコンボリューション手法における不透明性を解消すること。これは、性能向上を遂げても、背後にある最適化メカニズムが曇っているためである。
• VBが標準MAP法よりも優れた性能を示す、明確な数学的・構造的根拠を特定すること。特に、収束性とロバスト性の観点から。
• ブラインドデコンボリューションにおける画像事前分布の選択に対して、厳密で原理的な基準を導出すること。自然画像統計をモデル化する必要があるという一般的な仮定に挑戦する。
• VBとMAPフレームワークを統合するために、VBを画像、カーネル、ノイズの間で結合された特異な関数値ペナルティを持つ特殊なMAP問題として再定式化すること。
• 透明で解析的根拠に基づいたフレームワークを提供することで、VBに基づくブラインドデコンボリューションの体系的改善と拡張を可能にすること。

提案手法

• 非可分で関数値をとる正則化項を導入することで、VBの目的関数を画像、ぼかしカーネル、ノイズレベルの間で結合されたMAP問題に再定式化する。
• 凸解析と共役双対性を用いて、VBのコスト関数の閉形式表現を導出し、そのスケール不変性と凸性構造を明らかにする。
• 相対的凸性を保証し、局所最小値を回避する新たなペナルティ関数 g_VB(x, ρ) を導出。これにより、VBの初期値や最適化ヒューリスティクスに対するロバスト性が説明可能になる。
• 共役双対性によるタイトな上界を用い、λに依存するペナルティを用いたVBコスト関数の反復最適化により、ノイズレベル推定戦略を導入する。
• 画像、カーネル、ノイズレベルの更新を統合した統一アルゴリズムを提案。収束性を保持しつつ、原理的なハイパーパrameterチューニングを可能にする。
• 最適な画像事前分布は、自然画像の統計を反映する必要がないことが示され、結合ペナルティが解空間を本質的に正則化している。

実験結果

リサーチクエスチョン

• RQ1 変分ベイズブラインドデコンボリューションは、閉形式解が存在しないにもかかわらず、なぜ標準MAP法を上回る性能を発揮するのか？
• RQ2 VBがブラインドデコンボリューションにおいて局所最小値を回避し、安定した収束を達成できる、背後にある数学的メカニズムは何か？
• RQ3 VBの成功は、新しい構造的ペナルティを備えたMAP問題への再定式化によって説明可能か？
• RQ4 ブラインドデコンボリューションにおける最適な画像事前分布を特定するための必要十分条件は何か？また、自然画像統計をモデル化する必要があるか？
• RQ5 理論的厳密性と収束性を維持した上で、ノイズ分散推定をVBフレームワークに統合する方法は何か？

主な発見

• VBの目的関数は、画像、カーネル、ノイズレベルを統合する特徴的な結合ペナルティを備えたMAP問題として再解釈可能であり、VBのロバスト性と性能を説明する。
• 提案されたペナルティは相対的凸性とスケール不変性を保証し、局所最小値回避と安定した最適化を実現する上で鍵となる。
• 最適な画像事前分布は、自然画像の統計を反映する必要がない。これは、ブラインドデコンボリューションの文献において長年受け入れられていた仮定に挑戦する。
• 再定式化により、透明で解析的根拠に基づいたフレームワークが得られ、既存のVBのヒューリスティクスを正当化するとともに、原理的な手法改善を可能にする。
• 実験的結果により、理論的フレームワークから導出された修正が性能向上をもたらすことが確認され、理論的主張が裏付けられる。
• 共役双対性を用いた二重最適化アプローチにより、ノイズレベル推定が成功裏に統合された。λの下界が数値的安定性を保証する。