[論文レビュー] Convex Approaches to Model Wavelet Sparsity Patterns

Nikhil Rao, Robert D. Nowak+2 more|arXiv (Cornell University)|Apr 22, 2011

Sparse and Compressive Sensing Techniques参考文献 14被引用数 19

ひとこと要約

本稿では、線形逆問題（例：デコンボリューションや圧縮センシング）における親子係数の依存関係をモデル化するため、重複するグループリッジ（OGL）正則化を提案する。この手法により、凸最適化が可能となり、標準のリッジ法よりも優れた再構成精度を達成しつつ、計算効率を維持する。デブラーイングでは最大28%のMSE低減が達成され、圧縮センシングでは顕著な測定数の削減が見られた。

ABSTRACT

Statistical dependencies among wavelet coefficients are commonly represented by graphical models such as hidden Markov trees(HMTs). However, in linear inverse problems such as deconvolution, tomography, and compressed sensing, the presence of a sensing or observation matrix produces a linear mixing of the simple Markovian dependency structure. This leads to reconstruction problems that are non-convex optimizations. Past work has dealt with this issue by resorting to greedy or suboptimal iterative reconstruction methods. In this paper, we propose new modeling approaches based on group-sparsity penalties that leads to convex optimizations that can be solved exactly and efficiently. We show that the methods we develop perform significantly better in deconvolution and compressed sensing applications, while being as computationally efficient as standard coefficient-wise approaches such as lasso.

研究の動機と目的

• 線形逆問題（例：デコンボリューションや圧縮センシング）における従来のウェーブレットスパarsityモデル（例：HMT）の非凸性に対処すること。
• 線形観測作用素下での混合マルコフ的依存関係を扱うために、従来のグリーディー法や部分最適化の反復的手法に起因する制限を克服すること。
• 親子係数の依存関係を捉える凸最適化フレームワークを構築し、計算効率を損なわずに実現すること。
• グループスパarsity正則化が、再構成品質および測定効率の両面で標準リッジ法を上回ることを示すこと。
• 階層的ウェーブレット係数構造をより良くモデル化しつつ、標準の凸最適化手法で解けるように、修正された重複グループリッジ定式化を導入すること。

提案手法

• ウェーブレットツリー構造に基づく重複するグループを用いて、再構成問題をグループスパarsity正則化で定式化し、特にスケール間で親係数とその子係数をグループ化する。
• 親子係数ペア全体にわたる連合スパarsityを促進するため、ℓ1−ℓ2ノルム形式を用いた重複グループリッジ（OGL）を用いることで、階層的依存関係を保持する。
• 重複グループの非分離性に対応するため、分離可能な近似戦略を活用して、標準の最適化ソルバ（例：SpaRSA）を変更して使用する。
• 2次元ウェーブレット変換において、四分木構造を用いてグループを定義し、非リーフ係数を次の細分化スケールにおける4つの子係数とグループ化する、または個別に子係数とグループ化する。
• 性能比較および重複グループ構造の有効性の検証のため、リピティションベースの変種（OGLR）を導入する。
• 一階微分法を用いて得られる凸最適化問題を解き、標準リッジ法と同等の正確かつ効率的な解を得る。

実験結果

リサーチクエスチョン

• RQ1 重複グループスパarsity正則化は、線形逆問題におけるウェーブレット係数の親子依存関係を、標準リッジ法よりも効果的にモデル化できるか？
• RQ2 提案された凸最適化フレームワークは、非凸的または反復的手法に比べ、再構成精度および計算効率の両面で優れているか？
• RQ3 グループ正則化は、再構成誤差を低く保ちながら、圧縮センシングにおける測定数をどの程度削減できるか？
• RQ4 親子依存関係の組み込みは、独立した係数単位のしきい値処理と比較して、デブラーイングおよび圧縮センシングにおける性能向上にどの程度寄与するか？
• RQ5 重複グループリッジ定式化は、正確性を損なわずに、標準の凸最適化ソルバで効率的に解けるか？

主な発見

• OGL法はデブラーイングにおいて、MSE = 0.0031を達成し、リッジ法（MSE = 0.0043）と比較して28%の改善を示した。
• 圧縮センシングにおいては、OGLR変種がリッジ法の0.0043と比較してMSEを0.0031にまで低下させ、一貫した性能向上を示した。
• OGL正則化比（構造的スパarsity）は0.70であり、リッジ法（1.00）と比較して顕著に低く、自然なウェーブレットスパarsityパターンをより強く支持していることを示している。
• OGLR正則化比は0.85であり、リピティションベースの代替手法と比較して、重複グループが親子依存関係をより効果的に保持していることを示している。
• 64×64サブ画像あたり800測定値で、OGLはリッジ法よりも低い再構成誤差を達成しており、ノイズが増加するにつれて性能差が広がった。
• 圧縮センシングにおいて、OGLは低誤差を達成するためにリッジ法よりもはるかに少ない測定数で十分であり、300測定値を超えると性能が安定化し、測定効率の向上が示された。