[論文レビュー] Matrix Completion with Nonuniform Sampling: Theories and Methods.

Guangcan Liu, Qingshan Liu+2 more|arXiv (Cornell University)|May 7, 2018

Sparse and Compressive Sensing Techniques被引用数 2

ひとこと要約

本稿では、等長的条件と相対的良設定性を導入することで、決定論的で非一様なサンプリング下での行列補完のための新規フレームワークを提案する。これらは、任意の行列の正確な回復に必要なだけでなく十分な条件である。本稿では、スチャッテン準ノルムに基づく方法であるIsoDPを導入し、非ランダムなサンプリングパターン下でも、従来の双線形計画法よりも低いランク構造を効果的に特定できる。

ABSTRACT

In some significant applications such as data forecasting, the locations of missing entries cannot obey any non-degenerate distributions, questioning the validity of the prevalent assumption that the missing data is randomly chosen according to some probabilistic model. To break through the limits of random sampling, we explore in this paper the problem of real-valued matrix completion under the setup of deterministic sampling. We propose two conditions, isomeric condition and relative well-conditionedness, for guaranteeing an arbitrary matrix to be recoverable from a sampling of the matrix entries. It is provable that the proposed conditions are weaker than the assumption of uniform sampling and, most importantly, it is also provable that the isomeric condition is necessary for the completions of any partial matrices to be identifiable. Equipped with these new tools, we prove a collection of theorems for missing data recovery as well as convex/nonconvex matrix completion. Among other things, we study in detail a Schatten quasi-norm induced method termed isomeric dictionary pursuit (IsoDP), and we show that IsoDP exhibits some distinct behaviors absent in the traditional bilinear programs.

研究の動機と目的

• 行列補完におけるランダムサンプリングの仮定の制限を解消すること。特に、欠損データが決定論的なパターンに従う実世界の予測応用において有効である。
• 決定論的サンプリング下での任意の行列の正確な回復を保証する理論的条件を確立すること。具体的には、等長的条件と相対的良設定性を提示する。
• スチャッテン準ノルムに基づく新しい凸/非凸最適化手法、IsoDPを提案し、従来の双線形計画法とは異なる回復特性を示す。
• 等長的条件が任意の部分行列の同定可能性に必要不可欠であることを証明し、非一様なサンプリングにおける根本的な理論的基盤を提供する。

提案手法

• 決定論的サンプリング下での行列回復に必要な十分条件として、等長的条件を提案。標準的な非一様性仮定を一般化する。
• ノイズや不完全な観測が存在する状況でも安定した回復を保証するため、相対的良設定性の概念を導入する。
• スチャッテン準ノルムを活用して低ランク構造を促進する、等長的辞書追求（IsoDP）手法を開発する。
• 新しい理論的枠組みの下で、凸緩和と非凸最適化技術を用いて行列補完問題を解く。
• IsoDPの理論的性質を分析し、均一サンプリングモデルよりも弱い条件下でも行列を回復可能であることを示す。
• 行列理論と特異値分解を用いて、サンプリングパターンが同定可能性と安定性に与える影響を特徴付ける。

実験結果

リサーチクエスチョン

• RQ1 標準的なランダムサンプリング仮定を満たさない決定論的で非一様なサンプリングパターン下でも、行列補完が可能か？
• RQ2 決定論的サンプリング下で任意の部分行列の同定可能性を保証する理論的条件が、必要かつ十分であるか？
• RQ3 提案されたIsoDP手法は、従来の双線形計画法と比較して、回復性能および理論的保証においてどのように異なるか？
• RQ4 等長的条件は、異なるサンプリングパターンにおいて正確な回復を保証するために果たす役割は何か？
• RQ5 スチャッテン準ノルムは、非一様なサンプリング状況下で、核ノルム最小化よりも優れた回復行動を誘導できるか？

主な発見

• 等長的条件が任意の部分行列の同定可能性に必要不可欠であることが証明され、決定論的サンプリング下での行列補完の根本的要件であることが示された。
• 提案された等長的条件は、均一サンプリング仮定よりも厳密に弱く、従来の手法が失敗する状況でも回復が可能であることを示した。
• スチャッテン準ノルムに基づくIsoDPは、非一様なサンプリングにおいて従来の標準的双線形計画法では観察されない、特徴的な回復行動を示した。
• 新しい条件下での行列回復の理論的保証を確立し、行列補完の適用範囲を実世界の予測や非ランダムなデータ収集にまで拡張した。
• 相対的良設定性により、構造的または悪意あるサンプリングパターン下でも安定した回復が可能となり、i.i.d. サンプリングモデルを越えた耐性を強化した。