[論文レビュー] Computational Limits for Matrix Completion

Moritz Hardt, Raghu Meka+2 more|arXiv (Cornell University)|Feb 10, 2014

Sparse and Compressive Sensing Techniques参考文献 19被引用数 32

ひとこと要約

この論文は、自然な緩和条件下でも低ランク行列補完の計算的困難性を確立している。すなわち、非一様性（incoherence）が満たされ、90%のエントリが観測され、定数ランクの解を許容する（最大ランク100）場合でさえ、4-彩色問題が困難であると仮定すれば、問題は依然として取り返しのつかないものである。著者らは、これらの緩和条件下で実数値行列補完に対する最初の複雑性理論的下界を証明し、一様抽出などの分布的仮定が、可解性のための本質的役割を果たすことを示している。

ABSTRACT

Matrix Completion is the problem of recovering an unknown real-valued low-rank matrix from a subsample of its entries. Important recent results show that the problem can be solved efficiently under the assumption that the unknown matrix is incoherent and the subsample is drawn uniformly at random. Are these assumptions necessary? It is well known that Matrix Completion in its full generality is NP-hard. However, little is known if make additional assumptions such as incoherence and permit the algorithm to output a matrix of slightly higher rank. In this paper we prove that Matrix Completion remains computationally intractable even if the unknown matrix has rank $4$ but we are allowed to output any constant rank matrix, and even if additionally we assume that the unknown matrix is incoherent and are shown $90%$ of the entries. This result relies on the conjectured hardness of the $4$-Coloring problem. We also consider the positive semidefinite Matrix Completion problem. Here we show a similar hardness result under the standard assumption that $\mathrm{P} e \mathrm{NP}.$ Our results greatly narrow the gap between existing feasibility results and computational lower bounds. In particular, we believe that our results give the first complexity-theoretic justification for why distributional assumptions are needed beyond the incoherence assumption in order to obtain positive results. On the technical side, we contribute several new ideas on how to encode hard combinatorial problems in low-rank optimization problems. We hope that these techniques will be helpful in further understanding the computational limits of Matrix Completion and related problems.

研究の動機と目的

• 行列補完の既存の肯定的結果と計算的下界の間のギャップを埋める。
• 高ランク解の許容や近似的な整合性の緩和が、行列補完の可解性に寄与するかどうかを調査する。
• 非一様性仮定だけが効率的回復を保証するのに十分かどうか、あるいは追加の分布的仮定（例：一様抽出）が必要かどうかを特定する。
• 自然なアルゴリズム的緩和条件下で、実数値行列補完に対する最初の近似困難性結果を確立する。
• 正定値および低ランク設定における行列補完の計算的限界を探索する。

提案手法

• 4-彩色問題から行列補完への還元により、正規直交基底の回転を用いてグラフ彩色の制約を低ランク行列の制約に符号化する。
• 内積制約を用いて変数および節のガジェットを設計し、行列エントリに真理値割り当てと論理的満たしを符号化する。
• 90%のエントリが観測されたランク4の行列を構築し、任意のランク100の解が有効な4彩色を意味することを保証する。
• 2次元部分空間における直交変換を用いて二値選択（例：+1または-1の割り当て）をモデル化し、低ランク構造に組み込み可能な組合せ的符号化を可能にする。
• 小さな困難なインスタンスから構築されたブロック対角行列を用いて、正定値行列補完への拡張を行う。
• 誤差耐性のある行列補完を扱うためにExact-one-in-k-SATへの還元を行い、小さな摂動を用いて近似的な整合性をモデル化する。

実験結果

リサーチクエスチョン

• RQ1 未知の行列が低ランク（例：ランク4）である場合、非一様性が仮定され、90%のエントリが観測されても、行列補完は計算的に困難であるか？
• RQ2 非一様性と部分的エントリ観測のもとで、真のランクより高い定数ランクの解を許容する場合、行列補完は多項式時間で解けるか？
• RQ3 非一様性仮定だけが可解性を保証するのに十分か、それとも追加の分布的仮定（例：一様抽出）が必要か？
• RQ4 真のランク$k$と許容される解のランク$r$の観点から、$(k,r)$-補完における困難性の正確な閾値は何か？
• RQ5 エントリが一様にランダムに抽出されても、行列が非一様性を満たさない場合、行列補完は困難か？

主な発見

• 非一様性が仮定され、90%のエントリが観測され、ランク100までの解を許容する条件下でも、ランク4の行列補完は依然として計算的に非効率的である。
• 困難性結果は、4-彩色問題の困難性が予想されるものに依存しており、妥当な仮定の下で複雑性理論的障壁を確立している。
• 著者らは、自然な緩和条件下で実数値行列補完に対する最初の近似困難性結果を提供している。
• 正定値行列補完に関しては、追加の予想を必要とせず、標準的な複雑性仮定のもとでNP困難であることが示された。
• 還元技術は、正規直交基底の回転と内積制約を用いて、4-彩色問題やExact-one-in-k-SATのような組合せ問題を低ランク行列制約に符号化している。
• 結果は、非一様性だけでは可解性が保証されず、一様抽出などの分布的仮定が、効率的回復のための本質的役割を果たすことを示している。