[論文レビュー] Rank-Sparsity Incoherence for Matrix Decomposition

Venkat Chandrasekaran, Sujay Sanghavi+2 more|Jun 11, 2009

Sparse and Compressive Sensing Techniques参考文献 27被引用数 91

ひとこと要約

本稿では、ℓ₁ノルムとノルムの組み合わせを最小化することによって、行列をスパース成分と低ランク成分に分解する凸最適化手法を提案する。ランク-スパース性不整合性という概念を導入し、スパースパターンと行／列空間の間の不確実性原理を確立し、正確な回復の決定的十分条件を確立するとともに、ランダム行列集合において高い確率で回復が可能であることを示している。

ABSTRACT

Suppose we are given a matrix that is formed by adding an unknown sparse matrix to an unknown low-rank matrix. Our goal is to decompose the given matrix into its sparse and low-rank components. Such a problem arises in a number of applications in model and system identification, and is NP-hard in general. In this paper we consider a convex optimization formulation to splitting the specified matrix into its components, by minimizing a linear combination of the $\ell_1$ norm and the nuclear norm of the components. We develop a notion of \emph{rank-sparsity incoherence}, expressed as an uncertainty principle between the sparsity pattern of a matrix and its row and column spaces, and use it to characterize both fundamental identifiability as well as (deterministic) sufficient conditions for exact recovery. Our analysis is geometric in nature, with the tangent spaces to the algebraic varieties of sparse and low-rank matrices playing a prominent role. When the sparse and low-rank matrices are drawn from certain natural random ensembles, we show that the sufficient conditions for exact recovery are satisfied with high probability. We conclude with simulation results on synthetic matrix decomposition problems.

研究の動機と目的

• スパースパターンやランクに関する事前情報が全くない状況において、行列をそのスパース成分と低ランク成分に分解するという根本的な課題に取り組む。
• 識別可能性を保証する幾何的条件であるランク-スパース性不整合性を導入することで、分解問題の不適切な定式化を克服する。
• 凸緩和を用いたスパース成分および低ランク成分の正確な回復のための決定的十分条件を提供する。
• ランダム行列集合において、提案された条件が高い確率で満たされることを示し、信頼性の高い回復を可能にする。

提案手法

• スパース成分のℓ₁ノルムと低ランク成分のノルムの重み付き和を最小化する凸最適化問題として行列分解問題を定式化する。
• スパース成分のパターンとその行／列空間の間の不確実性原理として、ランク-スパース性不整合性条件を導入する。
• 低ランク行列の代数的多様体の接空間を定義し、回復問題の幾何的性質を特徴付ける。
• 低ランク行列Mの接空間に属する単位ノルム要素の最大∞ノルムであるξ(M)を用いて、行列構造の広がりや集中度を定量化する。
• スパース行列Aの行および列における非ゼロ要素の集中度を制御するため、deg_max(A)およびdeg_min(A)という度数測度を定義する。
• 半定値計画法を用いて凸緩和を解き、元のスパース成分および低ランク成分が一意に回復される条件を導出する。

実験結果

リサーチクエスチョン

• RQ1 どのような条件下で行列が一意にスパース成分と低ランク成分に分解可能か？
• RQ2 スパースパターンと行／列空間の幾何的関係をどのように特徴づけることで、識別可能性を保証できるか？
• RQ3 凸緩和を用いたスパース成分および低ランク成分の正確な回復を保証する決定的条件は何か？
• RQ4 スパース成分および低ランク成分が自然なランダム集合から抽出される場合、正確な回復はどの程度の確率で達成可能か？
• RQ5 低ランク行列の代数的多様体の接空間は、回復可能性の判定にどのように寄与するか？

主な発見

• 本稿では、低ランク行列Bがξ(B) ≤ 2 inc(B)を満たす場合、接空間の要素がスパースになりすぎず、識別不能性の問題を回避できることを確立している。ここでinc(B)は、Bの行および列空間が標準基底とどの程度一致しているかを測る。
• 正確な回復の十分条件は、ランク-スパース性不整合性測度を含んでおり、これによりスパース成分と低ランク成分が互いに識別不能になるような配置を避ける。
• 自然なランダム行列集合から抽出された行列に対しては、スパース成分および低ランク成分の正確な回復のための十分条件が、行列の次元に対してランクおよびスパース性の水準がそれほど大きくない場合、高い確率で満たされる。
• スパース行列Aの度数測度deg_max(A)は、2λ以上で下限づけられる。ここでλはAの非ゼロ要素からなる行列の最大特異値である。この関係により、スパース性の集中度と回復可能性の関係が明確化される。
• ユニタリ行列に関する最適化によって定義される量μ(A)は、μ(A) ≤ deg_max(A)およびμ(A) ≥ deg_min(A)を満たし、Aのスパース性集中度の境界を与える。
• 本稿では、ξ(B) ≤ 2 inc(B)およびξ(B) ≥ max(β(U), β(V))が成り立つことを証明しており、ここでβ(U)およびβ(V)は、Bの行および列空間と標準基底ベクトルとの間の整合性を測る指標である。これにより、不整合性測度のタイトな境界が得られる。