[論文レビュー] Sensing Matrix Optimization for Block-Sparse Decoding

Kevin Rosenblum, Lihi Zelnik‐Manor+1 more|arXiv (Cornell University)|Sep 8, 2010

Sparse and Compressive Sensing Techniques参考文献 16被引用数 10

ひとこと要約

本稿では、ブロックスパースな圧縮センシングにおける感知行列最適化フレームワークを提案し、等価辞書におけるブロック間およびサブブロック間コherenceの重み付き和を最小化することで、信号再構成と分類を向上させる。重み付きコherence最小化（WCM）アルゴリズムは、サrogate関数と閉形式の更新を用い、局所最適解に反復的に収束する。この手法により、ランダムまたは非ブロック構造を有する感知行列と比較して、Block-OMPの性能が顕著に向上する。

ABSTRACT

Recent work has demonstrated that using a carefully designed sensing matrix rather than a random one, can improve the performance of compressed sensing. In particular, a well-designed sensing matrix can reduce the coherence between the atoms of the equivalent dictionary, and as a consequence, reduce the reconstruction error. In some applications, the signals of interest can be well approximated by a union of a small number of subspaces (e.g., face recognition and motion segmentation). This implies the existence of a dictionary which leads to block-sparse representations. In this work, we propose a framework for sensing matrix design that improves the ability of block-sparse approximation techniques to reconstruct and classify signals. This method is based on minimizing a weighted sum of the inter-block coherence and the sub-block coherence of the equivalent dictionary. Our experiments show that the proposed algorithm significantly improves signal recovery and classification ability of the Block-OMP algorithm compared to sensing matrix optimization methods that do not employ block structure.

研究の動機と目的

• 信号にブロックスパース構造を活用することで、圧縮センシングにおける信号再構成と分類を改善すること。
• 等価辞書におけるブロック間およびサブブロック間コherenceを最小化する感知行列の設計をすること。
• 非凸なコherence最小化問題の局所解に収束する効率的な最適化アルゴリズムの開発をすること。
• 性能向上において、サブブロック間コherenceの最小化がブロック間コherenceの最小化よりも重要であることを示すこと。
• ブロック構造を考慮しない既存の感知行列設計を上回るフレームワークの提供をすること。

提案手法

• 感知行列設計の目的関数として、ブロック間およびサブブロック間コherenceの重み付き和を提案する。
• 非凸な目的関数をより最小化しやすいサrogate関数に置き換えるために、バウンダリー最適化アプローチを用いる。
• 各反復で、固有値分解を用いてサrogate関数を最小化する閉形式解を導出する。
• 現在の反復から導かれる変換行列の上位M個の固有ベクトルを用いて、感知行列を更新する。
• 現在の反復点における勾配が等しく保たれ、かつ降下が保証されることで収束を確保する。
• ユニタリ不変な定式化を採用することで、特定の感知行列表現に依存せずにグラム行列が不変であることを保証する。

実験結果

リサーチクエスチョン

• RQ1 ブロック間およびサブブロック間コherenceを同時に最小化するように感知行列を最適化することで、ブロックスパース信号の再構成性能が向上するか？
• RQ2 Block-OMP性能向上において、サブブロック間コherenceの最小化がブロック間コherenceの最小化よりも効果的であるか？
• RQ3 サrogateに基づく最適化手法は、収束が保証される非凸な感知行列設計問題を効率的に解けるか？
• RQ4 提案手法のWCMは、ランダムまたは非ブロック構造を有する感知行列設計と比較して、再構成精度および分類精度において優れているか？
• RQ5 本フレームワークは、顔認識やモーションセグメンテーションなどのブロックスパース信号を有する実世界の応用に一般化可能か？

主な発見

• 提案されたWCMアルゴリズムは、ブロック構造を無視した感知行列設計と比較して、Block-OMPの信号再構成および分類性能を顕著に向上させる。
• サブブロック間コherenceの最小化が、ブロック間コherenceの最小化よりもより大きな性能向上をもたらすため、目的関数におけるサブブロック項に高い重みを割り当てる正当性が示された。
• 反復的WCMアルゴリズムは、各ステップで勾配が等しく、サrogate関数が支配的であることを証明することで、元の非凸問題の局所最小値に収束することが保証された。
• 閉形式の更新ステップにより、変換行列の固有値分解に依存するため、計算効率が確保された。
• 得られた感知行列は、ほぼ正規直交ブロックを有する等価辞書を生成し、ブロックスパース近似精度を向上させた。
• シミュレーションにより、WCMで最適化された感知行列が、標準的なランダム行列やコherence最小化行列と比較して、再構成誤差および分類タスクの両方で優れた性能を示した。