[論文レビュー] Matrix sparsification and the sparse null space problem

Lee-Ad Gottlieb, Tyler Neylon|arXiv (Cornell University)|Aug 9, 2010

Sparse and Compressive Sensing Techniques参考文献 29被引用数 4

ひとこと要約

この論文は、スパースなゼロ空間問題と行列スパース化問題の間の同等性を確立し、標準的な複雑性仮定の下で、両者とも $2^{\text{log}^{.5-o(1)}n}$ の要因内で最適解に近似することがNP困難であることを証明している。また、$ε$-近似 $¹$-ノルム最小化を活用して、これらの行列問題を既知のスパース近似技術により解くための還元フレームワークを導入しており、解が実際に最適であることが保証される条件も提示している。

ABSTRACT

We revisit the matrix problems sparse null space and matrix sparsification, and show that they are equivalent. We then proceed to seek algorithms for these problems: We prove the hardness of approximation of these problems, and also give a powerful tool to extend algorithms and heuristics for sparse approximation theory to these problems.

研究の動機と目的

• スパースなゼロ空間問題と行列スパース化問題の計算的同等性を確立すること。
• これらの問題の近似可能性を調査し、標準的な複雑性仮定の下で、最適解からの近似が $2^{\text{log}^{.5-o(1)}n}$ 要因以内にできないことの証明。
• これらの行列問題を解くためにスパース近似ヒューリスティクスを一般化する還元フレームワークを提供すること。
• $¹$-ノルム最小化がこれらの問題に対して真に最適な解をもたらす十分条件を特定すること。

提案手法

• 構造的行列変換を用いて、スパースなゼロ空間問題と行列スパース化問題の同等性を証明する。
• 行列スパース化問題とスパースなゼロ空間問題を、最小不満足問題と正確な辞書表現（EDR）問題に還元する。
• 最小不満足問題を $¹$-ノルム最小化に還元し、既存のスパース近似アルゴリズムの利用を可能にする。
• 疑似逆行列と行・列空間の包含関係を用いて最適性の十分条件を導出する。特に $|| (A_1^T)^+ A_0^T ||_{1,1} < 1$ を含む。
• 符号ベクトルと有界な双対ベクトル ($||u||_\infty < 1$) を含む条件を導入し、$¹$-最小化が真の最適スパース解をもたらすことを保証する。
• 行列問題をEDRインスタンスに埋め込むために、$A^T$ のゼロ空間構造と列方向の分解を用いる。

実験結果

リサーチクエスチョン

• RQ1 スパースなゼロ空間問題と行列スパース化問題は計算的に同等であるか？
• RQ2 行列スパース化問題とスパースなゼロ空間問題に対して達成可能な最良の近似比は何か？
• RQ3 どのような条件下で $¹$-ノルム最小化がこれらの行列問題に対して最適解をもたらすか？
• RQ4 既存のスパース近似ヒューリスティクスを、還元を介してこれらの行列問題を解くために体系的に拡張できるか？
• RQ5 入力行列のどのような構造的性質が、$¹$-最小化によって最もスパースな解が得られることを保証するか？

主な発見

• スパースなゼロ空間問題と行列スパース化問題は、双方向の還元を介して計算的に同等である。
• NPが準多項式時間で決定的アルゴリズムを備えないものと仮定すれば、両問題とも最適解からの近似が $2^{\text{log}^{.5-o(1)}n}$ 要因以内にできない。
• 最小不満足問題から $¹$-ノルム最小化への還元は、双対ベクトル $u$ が存在し、$||u||_\infty < 1$ かつ特定の線形系を満たす場合、最適解をもたらす。
• 行列スパース化問題において、列方向の分解を介して最小不満足問題に還元する場合、$|| (B_{i,1}^T)^+ B_{i,0}^T ||_{1,1} < 1$ かつ双対条件が満たされれば最適解が得られる。
• スパースなゼロ空間問題において、$||A_{i,0}^+ A_{i,1}||_{1,1} < 1$ かつ双対ベクトル条件が満たされれば、$¹$-最小化アプローチの最適性が保証される。
• 本論文は、疑似逆行列と行・列空間の包含関係に基づく最適性条件を備えた、スパース近似技術を行列問題に適用する統一フレームワークを提供している。