[論文レビュー] Exact Matrix Completion via Convex Optimization

Emmanuel J. Candès, Benjamin Recht|ArXiv.org|May 29, 2008

Sparse and Compressive Sensing Techniques参考文献 27被引用数 57

ひとこと要約

この論文は、核ノルムを最小化する凸最適化問題を解くことで、ほぼ最小限のランダムに抽出された要素から、大多数の低ランク行列を正確に回復できることを確立している。主な結果は、サンプル数が $ C n^{1.2} r /\log n $ を超えると、高確率で正確な回復が可能であることを示している。ここで $ n $ は行列の次元、$ r $ はランクである。

ABSTRACT

We consider a problem of considerable practical interest: the recovery of a data matrix from a sampling of its entries. Suppose that we observe m entries selected uniformly at random from a matrix M. Can we complete the matrix and recover the entries that we have not seen? We show that one can perfectly recover most low-rank matrices from what appears to be an incomplete set of entries. We prove that if the number m of sampled entries obeys m >= C n^{1.2} r log n for some positive numerical constant C, then with very high probability, most n by n matrices of rank r can be perfectly recovered by solving a simple convex optimization program. This program finds the matrix with minimum nuclear norm that fits the data. The condition above assumes that the rank is not too large. However, if one replaces the 1.2 exponent with 1.25, then the result holds for all values of the rank. Similar results hold for arbitrary rectangular matrices as well. Our results are connected with the recent literature on compressed sensing, and show that objects other than signals and images can be perfectly reconstructed from very limited information.

研究の動機と目的

• 低ランク行列をその要素の小さな一様ランダムサブセットから回復するという根本的問題に取り組む。
• 高確率での正確な回復を保証するための最小サンプル数を特定する。
• 核ノルム最小化が元の行列を信頼性高く回復する条件を確立する。
• 圧縮センシングの理論を行列回復に拡張し、信号と同様に、不完全な情報から行列を再構成できることを示す。
• レコメンデーションシステムやセンサーネットワークの局所化といった実用的状況における行列補完の理論的保証を提供する。

提案手法

• 観測された要素に適合するよう、行列の核ノルムを最小化する凸最適化プログラムを提案する。
• 核ノルムとスペクトルノルムの双対性を活用し、確率的行列理論を用いて回復保証を導出する。
• 非可換ヒンチンゲの不等式とデカップリング技術を用いて、ランダム行列の摂動の作用素ノルムを評価する。
• ラデマッハ混沌過程の濃縮不等式を適用し、サンプリング作用素が期待値からどれほど逸脱するかを制御する。
• 低ランク行列に対して、サンプリング作用素が高確率で制限等長性性質（RIP）を満たすことを確立する。
• 核ノルムとスペクトルノルムの双対性を用いて、凸計画問題の解が一意的であり、元の行列と等しいことを示す。

実験結果

リサーチクエスチョン

• RQ1 凸最適化法を用いて、低ランク行列をその要素の小さなランダムサブセットから正確に回復できるか？
• RQ2 ランク $ r $ の行列を高確率で正確に回復するための最小サンプル数は何か？
• RQ3 核ノルム最小化は、行列補完におけるランク最小化の信頼性のある凸近似として機能するか？
• RQ4 サンプリング機構（一様ランダム）は、回復性能と理論的保証にどのように影響を与えるか？
• RQ5 圧縮センシングの理論は、信号や画像再構成を越えて、行列回復問題へと拡張可能か？

主な発見

• ある絶対定数 $ C $ に対して、サンプル数 $ m $ が $ m /geq C n^{1.2} r /\log n $ を満たすとき、ほとんどの $ n \times n $ 行列（ランク $ r $）は高確率で正確に回復可能である。
• サンプリングが一様で、かつ上記の閾値を満たす場合、核ノルム最小化プログラムは元の行列を正確に回復する。
• 指数 $ 1.2 $ を $ 1.25 $ に置き換えることで、任意のランク値に対してこの結果が拡張され、すべてのランクで保証が成り立つ。
• この手法はノイズに強く、正方形行列だけでなく長方形行列にも適用可能である。
• 理論的枠組みは、行列補完と圧縮センシングを結びつけ、低ランク行列が、スパース信号と同様に不完全なデータから再構成可能であることを示している。
• 解析は、測度の集中と、非可換ヒンチンゲの不等式およびデカップリング技術による作用素ノルムの評価に依存している。