[論文レビュー] Optimized Compressed Sensing via Incoherent Frames Designed by Convex Optimization

Cristian Rusu, Nuria González‐Prelcic|arXiv (Cornell University)|Jul 9, 2015

Sparse and Compressive Sensing Techniques参考文献 49被引用数 5

ひとこと要約

本稿では、反復的ベクトル間非相関化に基づく凸最適化手法であるSIDCOを提案する。この手法は、低・高冗長性の両設定において、既存手法を著しく上回る相互コherenceの最小化を実現する。本手法は、低コヒーレンスのフレームへの収束を保証し、直交変換を用いたデータ適応を可能にしつつコヒーレンスを維持する。

ABSTRACT

The construction of highly incoherent frames, sequences of vectors placed on the unit hyper sphere of a finite dimensional Hilbert space with low correlation between them, has proven very difficult. Algorithms proposed in the past have focused in minimizing the absolute value off-diagonal entries of the Gram matrix of these structures. Recently, a method based on convex optimization that operates directly on the vectors of the frame has been shown to produce promising results. This paper gives a detailed analysis of the optimization problem at the heart of this approach and, based on these insights, proposes a new method that substantially outperforms the initial approach and all current methods in the literature for all types of frames, with low and high redundancy. We give extensive experimental results that show the effectiveness of the proposed method and its application to optimized compressed sensing.

研究の動機と目的

• 有限次元ヒルベルト空間における最小相互コヒーレンスを有する高コヒーレンスなフレームを構築するという長年の課題に取り組む。
• 従来のフレーム設計手法におけるヒューリスティックなパrameterチューニングおよび非凸最適化の限界を克服する。
• グラム行列ではなくフレームベクトルそのものに直接作用する凸最適化フレームワークを構築し、より良い収束性と性能を実現する。
• 直交変換を用いたデータ適応型辞書学習を可能にし、再構成誤差の低減を図るが、フレームのコヒーレンスを維持する。
• 広範な実験的検証を通じて、圧縮センシング応用における優れた性能を示す。

提案手法

• SIDCOは、異なるフレームベクトル間の最大絶対内積を最小化するという凸最適化問題の逐次的定式化により、コヒーレンスの低いフレーム設計を実現する。
• グラム行列への間接的最適化を回避するため、R^m 上のフレームベクトルそのものに直接作用する。
• 反復的凸部分問題を用いてベクトルを非相関化し、最適化部分問題の構造から収束条件を導出する。
• アルゴリズムは局所的最小値に収束することが示され、等角的タイトフレームは最適化フレームワーク下で安定解として特定される。
• データ適応のため、再構成誤差を最小化する直交変換（Procrustes問題）を用いてフレームを変換する。この際、相互コヒーレンスを維持する。
• フレーム設計と直交回転を用いた反復的精錬を組み合わせ、適応プロセス中でも低コヒーレンスを維持する。

実験結果

リサーチクエスチョン

• RQ1 フレームベクトルそのものに直接作用する凸最適化フレームワークは、従来の非凸またはグラム行列ベースの手法に比べ、相互コヒーレンスの最小化において優れた性能を示せるか？
• RQ2 提案された反復的凸最適化スキームはどのような収束特性を示し、どのような条件下で低コヒーレンス解に収束するか？
• RQ3 等角的タイトフレームは提案された最適化問題の局所的最小値であるか？この性質が本手法の性能を説明できるか？
• RQ4 直交変換を用いて与えられたデータセットにフレームを適応させる場合、コヒーレンスの劣化を伴わずどの程度の適応が可能か？
• RQ5 本手法は、相互コヒーレンス低減および圧縮センシングにおける性能の観点から、すべての既存のフレーム設計技術に比べて優れているか？

主な発見

• SIDCOは、テストされたすべての次元および冗長性レベルにおいて、すべての先行手法を著しく上回る低い相互コヒーレンスを達成する。低・高冗長性両設定で同様に優れた性能を示す。
• 本手法は信頼性高く収束し、理論的下限に近いコヒーレンス値を達成する。特に高次元および高冗長性の状況で顕著な優位性を示す。
• 等角的タイトフレームが最適化問題の局所的最小値であることが示され、本手法の有効性に理論的根拠が与えられる。
• 画像データへの直交回転による適応処理において、最終的な辞書は低コヒーレンスを維持しつつ、相対的再構成誤差を顕著に低減する。8×8画像ブロック上での実験でその有効性が実証された。
• 本手法は、圧縮センシングにおいて最先端の技術を上回り、より少ない測定回数でスparser recoveryが可能となり、再構成誤差も低減される。
• Procrustesに基づく回転によるトレーニング手順は、フレームのコヒーレンスを損なわず再構成誤差を低減する。これは、データ適応型辞書学習に有効であることが証明された。