[論文レビュー] Geometric approach to error correcting codes and reconstruction of signals

Mark Rudelson, Roman Vershynin|arXiv (Cornell University)|Feb 15, 2005

Medical Imaging Techniques and ApplicationsMedicine参考文献 28被引用数 19

ひとこと要約

本稿では、$\iota_1$-ノルム最小化（ベーシス・パルース）をデコーダーとして用いることで、誤り訂正符号および信号再構成のための幾何的関数解析的手法を導入する。ほとんどのランダムな線形変換 $Q: \mathbb{R}^n \to \mathbb{R}^m$ に対して、スパースなサポートまたは汚染された成分を有する信号は、$m \gtrsim r \log(n/r)$ の条件下で正確に再構成可能であり、$\ell_1$-射影によるロバストな再構成の鋭い閾値を確立する。

ABSTRACT

We develop an approach through geometric functional analysis to error correcting codes and to reconstruction of signals from few linear measurements. An error correcting code encodes an n-letter word x into an m-letter word y in such a way that x can be decoded correctly when any r letters of y are corrupted. We prove that most linear orthogonal transformations Q from R^n into R^m form efficient and robust robust error correcting codes over reals. The decoder (which corrects the corrupted components of y) is the metric projection onto the range of Q in the L_1 norm. An equivalent problem arises in signal processing: how to reconstruct a signal that belongs to a small class from few linear measurements? We prove that for most sets of Gaussian measurements, all signals of small support can be exactly reconstructed by the L_1 norm minimization. This is a substantial improvement of recent results of Donoho and of Candes and Tao. An equivalent problem in combinatorial geometry is the existence of a polytope with fixed number of facets and maximal number of lower-dimensional facets. We prove that most sections of the cube form such polytopes.

研究の動機と目的

• 実数上での誤り訂正符号のための幾何的関数解析フレームワークの構築。
• $\ell_1$-ノルム最小化（ベーシス・パルース）が、汚染または不完全な測定値から信号を正確に再構成できる条件の確立。
• ほとんどのランダムな線形変換 $Q: \mathbb{R}^n \to \mathbb{R}^m$ が、ロバストで効率的な誤り訂正符号を生成することの証明。
• 信号再構成とランダム部分空間の幾何、および多面体上のガウス測度との関連の確立。
• 量子化を介して有限アルファベットへと結果を拡張し、符号化方式のロバスト性と連続性の示唆。

提案手法

• ランダムな線形写像 $Q$ の像への $\ell_1$-ノルムにおけるメトリック射影をデコーディング機構として用いる。
• 漸近的凸幾何学およびガウス測度の集中現象の道具を用いて、部分空間および射影の幾何を分析する。
• アンドリュースの補題およびガウス測度の対数凸性を用いて、立方体のランダム部分空間への射影の測度を評価する。
• 正規化されたハア測度を用いた $\mathbb{R}^m$ 内の $n$ 次元部分空間のグラスマン多様体を分析し、確率的保証を確立する。
• ミンコフスキー加法およびインデックス集合の分解を用いて、$\ell_\infty$-ボールの射影の大きさを制御する。
• $\ell_1$-ベースのデコーダーのロバスト性を安定性バウンドにより確立：小規模な摂動 $h$ に対して $\|u - y\|_1 \leq 4\|h\|_1$。

実験結果

リサーチクエスチョン

• RQ1 $\ell_1$-最小化は、少ない数の線形測定値からスパース信号を正確に再構成できるか？
• RQ2 $n$ 次元信号の $r$-スパースな汚染またはサポートを有する場合、正確な再構成に必要な最小の測定数 $m$ は何か？
• RQ3 ほとんどのランダムな線形変換 $Q: \mathbb{R}^n \to \mathbb{R}^m$ は、実数上でのロバストな誤り訂正符号を生成するか？
• RQ4 ランダム部分空間の幾何は、多数の低次元面を有する多面体の存在とどのように関連するか？
• RQ5 $\ell_1$-ベースの再構成法は、量子化を介して有限アルファベットへと拡張可能か？その場合、誤り訂正能力が保たれるか？

主な発見

• ほとんどの $n$ 次元部分空間 $Y \subset \mathbb{R}^m$ に対して、$m \gtrsim r \log(n/r)$ の条件下で、$y \in Y$ は、最大 $r$ 個の汚染された座標を持つ $y'$ からも正確に再構成可能である。
• 再構成失敗確率は $R = m/r$ に関して指数関数的に減少し、$R \leq c \log(m/r)$ の場合に $P \leq 2e^{-cR}$ が成り立つ。これは高い信頼性を示唆する。
• $\ell_1$-ベースのデコーダーはロバストである：任意の摂動 $h$ に対して $\|u - y\|_1 \leq 4\|h\|_1$ が成り立ち、小さな誤差に対しても安定性が保証される。
• $\mathbb{R}^m$ のほとんどの $n$ 次元部分空間は、$m \gtrsim r \log(n/r)$ の条件下で誤り訂正符号を生成する。これは情報理論的下界と対数的要因を除いて一致する。
• 量子化を介して有限アルファベットへと拡張可能：$m \leq 2n$ かつ量子化ステップが $1/(10m)$ の場合、$x \in \{1,\dots,p\}^n$ は、最大 $r$ 個の汚染された座標を持つ $\hat{y}$ からも再構成可能である。
• ランダムな $n$ 次元部分空間 $H$ への $\ell_\infty^n$-ボールの射影のガウス測度は、$\gamma_H\left(\frac{c}{\sqrt{k}}\sqrt{\log(n/k)} P_H B_\infty^n\right) \leq e^{-cn/k}$ を満たす。これは、$k$ が大きい場合に集中性と小さな測度を示唆する。