[論文レビュー] Diagonal and Low-Rank Matrix Decompositions, Correlation Matrices, and Ellipsoid Fitting

James Saunderson, Venkat Chandrasekaran+2 more|Apr 5, 2012

Sparse and Compressive Sensing Techniques参考文献 1被引用数 3

ひとこと要約

本稿は、行列を対角成分と低ランク成分に分解する問題、相関行列（楕円体）の顔構造を分析する問題、および中心が原点の楕円体が与えられた点集合を通るかどうかを判定する問題の間で等価性を確立している。最小トレース因子分析（MTFA）が、部分空間のコherenecが 1/2 未満である限り、任意の対角行列を加えた低ランク正定値行列を正確に回復できることを証明しており、高次元行列分解における明示的な回復条件を提供している。

ABSTRACT

In this paper we establish links between, and new results for, three problems that are not usually considered together. The first is a matrix decomposition problem that arises in areas such as statistical modeling and signal processing: given a matrix $X$ formed as the sum of an unknown diagonal matrix and an unknown low rank positive semidefinite matrix, decompose $X$ into these constituents. The second problem we consider is to determine the facial structure of the set of correlation matrices, a convex set also known as the elliptope. This convex body, and particularly its facial structure, plays a role in applications from combinatorial optimization to mathematical finance. The third problem is a basic geometric question: given points $v_1,v_2,...,v_n\in \R^k$ (where $n > k$) determine whether there is a centered ellipsoid passing \emph{exactly} through all of the points. We show that in a precise sense these three problems are equivalent. Furthermore we establish a simple sufficient condition on a subspace $U$ that ensures any positive semidefinite matrix $L$ with column space $U$ can be recovered from $D+L$ for any diagonal matrix $D$ using a convex optimization-based heuristic known as minimum trace factor analysis. This result leads to a new understanding of the structure of rank-deficient correlation matrices and a simple condition on a set of points that ensures there is a centered ellipsoid passing through them.

研究の動機と目的

• 行列を対角成分と低ランク成分に分解する問題、楕円体（相関行列の集合）の顔構造解析、および与えられた点を通る中心が原点の楕円体の存在に関する理論的等価性を確立すること。
• 行列分解における最小トレース因子分析（MTFA）ヒューリスティックの明示的回復条件を提供すること。
• R^k 内の与えられた点集合（n > k）を正確に通る中心が原点の楕円体が存在する条件を特定すること。
• 凸最適化による低ランク行列の正確な回復のための、部分空間コヒーレンスに基づく十分条件を導出すること。
• 楕円体の顔構造と、点を通る楕円体の幾何的問題、および行列分解の間の関係を明らかにすること。

提案手法

• 行列分解問題を、X = D + L を満たす低ランク正定値行列 L と対角行列 D を見つける問題として定式化する。
• 半定値計画法の双対性を用いて、MTFA ヒューリスティックと楕円体の顔構造を結びつける。
• 回復可能性の可能性を決定する主要な幾何的量として、部分空間コヒーレンス μ(U) を導入する。
• ウォルターズの定理（非負行列を含む線形系）を応用し、MTFA問題の双対問題から導かれるシステムに非負解が存在することを証明する。
• μ(U) < 1/2 であれば、任意の対角行列 D に対して、MTFA が X = D + L から L を正確に回復できることを確立する。
• ベータ分布の尾部バウンドを用いて、次元 r = (1/2 - ε)n で r > 3/ε² を満たすランダム部分空間は、n が大きいと高確率で μ(U) < 1/2 を満たすことを示す。

実験結果

リサーチクエスチョン

• RQ1 凸最適化を用いて、行列 X = D + L が対角行列 D と低ランク正定値行列 L に正確に分解可能となる条件は何か？
• RQ2 楕円体の顔構造と、与えられた点集合を通る中心が原点の楕円体の存在との間にはどのような関係があるか？
• RQ3 最小トレース因子分析（MTFA）ヒューリスティックが、X = D + L から低ランク成分 L を保証して回復できるのはいつか？
• RQ4 L の列空間のコヒーレンスは、MTFA を用いた L の回復可能性にどのように影響するか？
• RQ5 R^k 内の点集合にどのような幾何的条件を課すと、中心が原点の楕円体がすべての点を通るようになるか？

主な発見

• 低ランク行列 L の列空間の部分空間コヒーレンス μ(U) が 1/2 未満であれば、任意の対角行列 D に対して、最小トレース因子分析（MTFA）は X = D + L から L を正確に回復できる。
• R^k 内の n 点（n > k）を通る楕円体フィッティング問題は、行列分解問題および楕円体の顔構造問題と等価である。
• MTFA問題の双対問題から導かれる線形システムに非負解が存在するための必要十分条件は μ(U) < 1/2 である。
• 次元 r = (1/2 - ε)n で r > 3/ε² を満たす R^n 内のランダム r 次元部分空間について、μ(U) ≥ 1/2 である確率は n に対して指数関数的に減少する。
• 楕円体の顔構造は、与えられた点を通る楕円体の幾何的実現可能性と直接的に関連している。
• 本稿は、高次元要因分析における正確な回復のための、新たな単純な十分条件を提供しており、従来のヒューリスティック的または代数的アプローチを改善している。