[論文レビュー] A simple proof that random matrices are democratic

Mark A. Davenport, Jason N. Laska+2 more|ArXiv.org|Nov 4, 2009

Sparse and Compressive Sensing Techniques参考文献 25被引用数 49

ひとこと要約

この論文は、圧縮センシングで用いられるランダム行列が、信号に関する情報の寄与度がほぼ等しいという意味で民主的であることを、単純な証明で示している。測定値の一部が失われても、測定数をわずかに増加させれば、再構成は安定し続けることが示され、制限等長性性質（RIP）を用いることで、測定値の敵対的削除に対しても耐性が保証される。

ABSTRACT

The recently introduced theory of compressive sensing (CS) enables the reconstruction of sparse or compressible signals from a small set of nonadaptive, linear measurements. If properly chosen, the number of measurements can be significantly smaller than the ambient dimension of the signal and yet preserve the significant signal information. Interestingly, it can be shown that random measurement schemes provide a near-optimal encoding in terms of the required number of measurements. In this report, we explore another relatively unexplored, though often alluded to, advantage of using random matrices to acquire CS measurements. Specifically, we show that random matrices are democractic, meaning that each measurement carries roughly the same amount of signal information. We demonstrate that by slightly increasing the number of measurements, the system is robust to the loss of a small number of arbitrary measurements. In addition, we draw connections to oversampling and demonstrate stability from the loss of significantly more measurements.

研究の動機と目的

• 圧縮センシングにおけるランダム測定行列の民主的性質を形式的に定義し、証明すること。
• ランダム行列が、測定値の一部が敵対的に削除されても、安定した信号再構成を維持することを示すこと。
• 測定数をわずかに増加させることで、任意の測定値損失に対しても耐性が保証されることを示すこと。
• 民主的性質と過剰サンプリング、および顕著な測定値損失に対する安定性との関係を明らかにすること。
• ランダム測定値が一様に情報を持つという経験的観察のための厳密な理論的基盤を提供すること。

提案手法

• 著者たちは、十分なサイズの測定値の任意の部分集合が、どの測定値が失われても、依然として安定した信号再構成を可能にするという性質を、民主的性質として定義する。
• 彼らは制限等長性性質（RIP）を主要な道具として用い、行列が定数δでRIPを満たしている場合、スパースな集合の直交補空間への射影が、ノルムを制御された要因まで保つことを示す。
• 証明は、RIPと直交射影の性質を用いて、射影されたベクトルと元のベクトルとの内積を評価することに依存する。
• 射影されたベクトルのノルムが、元のノルムの少なくとも (1 - δ/(1-δ)) 倍であることを示す境界を導出する。これにより、測定値損失下での安定性が保証される。
• 測定値の一部が削除された場合を想定し、残りの測定値が変更されたRIP条件を満たすことを示す。
• この手法は、i.i.d. のサブガウス数のランダム行列に適用可能であり、M = O(K log(N/K)) のとき、高確率でRIPを満たす。

実験結果

リサーチクエスチョン

• RQ1 圧縮センシングにおけるランダム行列の民主的性質は、経験的観察ではなく、形式的に証明可能か？
• RQ2 任意のD個の測定値が失われても、安定した信号再構成を保証するには、どの程度の測定数が必要か？
• RQ3 民主的性質と制限等長性性質（RIP）の関係は何か？
• RQ4 測定値が敵対的に削除されても、システムは安定を保てるか？ もしそうなら、どのような条件下で可能か？
• RQ5 過剰サンプリングは、民主的性質および測定値損失に対する耐性とどのように関係するか？

主な発見

• ランダム行列は、Dが小さいとき、M - D 個の測定値の任意の部分集合が、高確率で信号を再構成可能であるという意味で民主的である。
• 測定数Mをわずかに増加させれば、測定値の損失が敵対的であっても、システムは耐性を保つ。
• 定数δでRIPを満たすことで、スパースなベクトルのノルムが、スパースな集合の直交補空間への射影においても保たれ、これが民主的性質の根拠となる。
• ノルム保存の境界は、削除されたインデックスとサポートが重複しないベクトルに対して (1 - δ/(1-δ)) である。これにより、測定値損失下での安定性が保証される。
• M = O(K log(N/K)) のとき、高確率でこの結果が成り立ち、これはランダム行列がRIPを満たすための標準的な境界である。
• 民主的性質は、1つの測定値が重要ではないことを示しており、測定値の欠落や破損に対してもシステムが耐性を持つことを意味する。