[論文レビュー] Efficient and Robust Compressed Sensing using High-Quality Expander Graphs

Sina Jafarpour, Weiyu Xu+2 more|ArXiv.org|Jun 24, 2008

Sparse and Compressive Sensing Techniques参考文献 11被引用数 30

ひとこと要約

本稿では、3/4を超える拡張係数を持つ高品質な拡張グラフを用いた決定的圧縮センシングフレームワークを提案する。これにより、信号の完全回復がたった O(k) 回の復元反復で達成可能となり、従来の O(k log n) に比べて時間計算量が著しく削減される。本手法はマンハッタン距離における制限等長性を活用し、二分探索木のような効率的なデータ構造を用いて部分線形時間での再構成を実現し、明示的構成がわずかなコストで可能である点を除いて、高い耐障害性とほぼ最適な測定回数を達成する。

ABSTRACT

Expander graphs have been recently proposed to construct efficient compressed sensing algorithms. In particular, it has been shown that any $n$-dimensional vector that is $k$-sparse (with $k\ll n$) can be fully recovered using $O(k\log\frac{n}{k})$ measurements and only $O(k\log n)$ simple recovery iterations. In this paper we improve upon this result by considering expander graphs with expansion coefficient beyond 3/4 and show that, with the same number of measurements, only $O(k)$ recovery iterations are required, which is a significant improvement when $n$ is large. In fact, full recovery can be accomplished by at most $2k$ very simple iterations. The number of iterations can be made arbitrarily close to $k$, and the recovery algorithm can be implemented very efficiently using a simple binary search tree. We also show that by tolerating a small penalty on the number of measurements, and not on the number of recovery iterations, one can use the efficient construction of a family of expander graphs to come up with explicit measurement matrices for this method. We compare our result with other recently developed expander-graph-based methods and argue that it compares favorably both in terms of the number of required measurements and in terms of the recovery time complexity. Finally we will show how our analysis extends to give a robust algorithm that finds the position and sign of the $k$ significant elements of an almost $k$-sparse signal and then, using very simple optimization techniques, finds in sublinear time a $k$-sparse signal which approximates the original signal with very high precision.

研究の動機と目的

• 改善された拡張グラフ特性を用いて、圧縮センシングの復元時間計算量を O(k log n) から O(k) 回の反復に削減すること。
• 高品質な拡張グラフを用いた明示的構成による、効率的で決定論的な圧縮センシングを実現すること。
• ほぼ k-スパース信号における k 個の最大成分の位置と符号を特定する耐障害性の高いアルゴリズムを開発すること。
• RIP-1 性質と効率的な最適化を用いて、部分線形時間での k-スパース近似の再構成を達成すること。
• 測定回数、復元時間、実装の単純さの観点から、既存の拡張グラフベースおよびランダムプロジェクション手法と比較して優れた性能を発揮すること。

提案手法

• 拡張係数 > 3/4 の非対称二部グラフを用いて、O(k log n) の測定回数を持つ測定行列 A を構築する。
• 反復的木ベース探索によりサポートを特定する修正されたグリーディ復元アルゴリズムを適用し、各反復で残差誤差が log n に比例する要因で減少する。
• 候補サポート集合を効率的に維持・更新するため、二分探索木のデータ構造を用い、各反復の計算量を O(d log d) に抑える。
• ℓ1 距離における制限等長性（RIP-1）を活用し、ノイズありまたはほぼスパースな信号からの安定した k-スパース近似の回復を保証する。
• k 個の最大成分の位置と符号の情報を用いて、部分行列 A′ における小規模な最小二乗問題を解くことで、部分線形時間での再構成を実現する。
• 右正則な高品質な拡張グラフに依存することで理論的回復限界を保証し、測定回数のわずかなペナルティで明示的構成が可能になる。

実験結果

リサーチクエスチョン

• RQ1 拡張係数が 3/4 を超える拡張グラフは、復元反復回数を O(k log n) から O(k) に削減できるか？
• RQ2 二分探索木のような単純なデータ構造を用いて、復元アルゴリズムを効率的に実装できるか？
• RQ3 測定回数のわずかな増加を伴っても、明示的構成の拡張グラフを用いて反復回数に悪影響を及げないか？
• RQ4 本手法は一般の仮定のもとで、ほぼ k-スパース信号に対してどのように耐障害性を達成するか？
• RQ5 高品質な拡張グラフを用いる際、測定回数と復元時間計算量のトレードオフはどのように変化するか？

主な発見

• k-スパース信号の完全な回復が、最大 2k 回の単純な反復で達成され、時間計算量が O(k log n) から O(k) に削減される。
• 二分探索木を用いることで、復元アルゴリズムは O(k log n log log n) 時間で実装可能であり、反復回数に比べてわずかなオーバーヘッドにとどまる。
• 高品質な拡張グラフの明示的構成は、測定回数のわずかな増加で実現可能であり、反復回数に影響を与えない。
• まず k 個の最大成分の位置と符号を特定し、その後小規模な最適化問題を解くことで、ほぼ k-スパース信号の耐障害性のある回復を達成する。
• 拡張グラフの RIP-1 性質により、再構成された k-スパース信号が元の信号を非常に高い精度で近似することが保証される。
• 測定効率、復元時間、アルゴリズムの単純さの観点から、先行する拡張グラフベース手法およびランダムプロジェクション手法を上回る性能を発揮する。