[論文レビュー] Highly robust error correction by convex programming

Emmanuel J. Candès, Paige Randall|ArXiv.org|Dec 22, 2006

Sparse and Compressive Sensing Techniques参考文献 19被引用数 32

ひとこと要約

本稿では、スパースな大きな誤差と密度の高い小さな誤差が符号語を損なう、実数値信号伝送における非常に頑健な誤り訂正のための凸最適化フレームワークを提案する。第二順序 Cone プログラミング（SOCP）または線形プログラミング（LP）を解くことで、腐敗パターンが任意かつ未知であっても、元の信号が、巨大誤差が存在しない理想状態とほぼ同等の再構成誤差で回復される。

ABSTRACT

This paper discusses a stylized communications problem where one wishes to transmit a real-valued signal x in R^n (a block of n pieces of information) to a remote receiver. We ask whether it is possible to transmit this information reliably when a fraction of the transmitted codeword is corrupted by arbitrary gross errors, and when in addition, all the entries of the codeword are contaminated by smaller errors (e.g. quantization errors). We show that if one encodes the information as Ax where A is a suitable m by n coding matrix (m >= n), there are two decoding schemes that allow the recovery of the block of n pieces of information x with nearly the same accuracy as if no gross errors occur upon transmission (or equivalently as if one has an oracle supplying perfect information about the sites and amplitudes of the gross errors). Moreover, both decoding strategies are very concrete and only involve solving simple convex optimization programs, either a linear program or a second-order cone program. We complement our study with numerical simulations showing that the encoder/decoder pair performs remarkably well.

研究の動機と目的

• スパースな巨大誤差と密度の高い小さな誤差（例：量子化誤差）が符号語を損なう状況における、信頼性の高い信号伝送という実用的問題に取り組む。
• その場所や振幅を事前に知らなくても、任意の巨大誤差に対して理論的に頑健であるデコーディング方式を開発する。
• すべてのエントリが小さな誤差によって損なわれても、巨大誤差が存在しない理想状態とほぼ同等の再構成精度を達成する。
• 実用的導入を目的として、特にSOCPおよびLPに基づく、計算的に効率的なデコーディングアルゴリズムを設計する。
• 提案手法が、ガウス分布および有界な小さな誤差を含む現実的なノイズモデルにおいても、ほぼ最適な性能を維持することを実証する。

提案手法

• 信号 $ x \in \mathbb{R}^n $ を、$ m \geq n $ であるコード行列 $ A \in \mathbb{R}^{m \times n} $ を用いて $ Ax $ として符号化する。ここで $ A $ は正規直交列をもち、制限等長性または正規直交性条件を満たす。
• 受信信号を $ y = Ax + e + z $ としてモデル化する。ここで $ e $ はスパースな巨大誤差ベクトル、$ z $ は密度の高い小さな誤差ベクトルである。
• 2つのデコーディング方式を提案する：1つ目は、$ \|y - A\tilde{x} - \tilde{z}\|_{\ell_1} $ を最小化する第二順序 Cone プログラミング（SOCP）に基づくもので、制約条件として $ \|\tilde{z}\|_{\ell_2} \leq \varepsilon $ および $ A^*\tilde{z} = 0 $ を満たす。もう1つは、$ \|XX^*\tilde{z}\|_{\ell_\infty} $ に制約を課す線形プログラミング（LP）に基づくものである。
• 制限等長性（RIP）および制限正規直交性条件を用いて、理論的再構成保証を確立する。
• $ A $ および $ X $ にガウス確率行列を用い、既知の集中性の性質により、再構成誤差の確率的バウンドを可能にする。
• 再構成誤差が、$ \|(A^*A)^{-1}A^*z\|_{\ell_2} $ の定数倍で有界であることを証明する。このバウンドは、小さな誤差のレベルおよびコード行列の性質にのみ依存する。

実験結果

リサーチクエスチョン

• RQ1 スパースな巨大誤差と密度の高い小さな誤差を含む損なわれた符号語から、凸最適化フレームワークを用いて信号を再構成することは可能か？
• RQ2 巨大誤差のパターンが任意かつ未知である場合、再構成誤差はどの程度有界に保たれるか？
• RQ3 SOCPおよびLPデコーダーの性能は、巨大誤差が存在しない理想の最小二乗法の状態と比べてどの程度の差になるか？
• RQ4 コード行列 $ A $ にどのような条件を課すことで、混合誤差モデル下でも安定的かつ頑健な信号再構成が保証されるか？
• RQ5 小さな誤差がすべてのエントリに影響を与える状況でも、提案手法のデコーディング方式は、平均二乗誤差の観点からほぼ理想の性能を達成できるか？

主な発見

• SOCPデコーダーは、$ \|x^* - x\|_{\ell_2} \leq C \cdot \|z\|_{\ell_2} $ を満たす再構成誤差を達成する。ここで $ C $ は、$ A $ が制限等長性または正規直交性条件を満たすとき、1に非常に近い定数である。
• 同じ条件下で、LPデコーダーも同様の性能保証を達成し、理論的バウンドは $ A $ の制限等長性定数に依存する。
• ガウス確率行列 $ A $ を用いる場合、再構成誤差は高確率で有界であり、巨大誤差が存在しない理想状態と比べてほぼ最適な性能を示す。
• 数値シミュレーションにより、エンコーダ／デコーダのペアが、非常に高い腐敗レベル下でも顕著に優れた性能を発揮することが確認された。
• 巨大誤差がスパースである限り、その大きさに依存せず再構成誤差がほぼ一定であることが示され、任意の大規模誤差に対して強い頑健性を示した。
• これらの手法は計算的に効率的かつ実用的であり、SOCPおよびLPといった標準的な凸計画問題の解法に依存しており、現代のソルバで十分にサポートされている。