[论文解读] Matrix Completion with Nonuniform Sampling: Theories and Methods.

Guangcan Liu, Qingshan Liu+2 more|arXiv (Cornell University)|May 7, 2018

Sparse and Compressive Sensing Techniques被引用 2

一句话总结

本文提出了一种新颖的框架，用于在确定性、非均匀采样条件下进行矩阵补全，通过引入同构条件（isomeric condition）和相对良好条件性（relative well-conditionedness），这两者均为精确矩阵恢复的必要且充分条件。该框架提出了一种基于Schatten拟范数的新型方法IsoDP，其在识别非随机采样模式下的低秩结构方面优于传统双线性规划方法。

ABSTRACT

In some significant applications such as data forecasting, the locations of missing entries cannot obey any non-degenerate distributions, questioning the validity of the prevalent assumption that the missing data is randomly chosen according to some probabilistic model. To break through the limits of random sampling, we explore in this paper the problem of real-valued matrix completion under the setup of deterministic sampling. We propose two conditions, isomeric condition and relative well-conditionedness, for guaranteeing an arbitrary matrix to be recoverable from a sampling of the matrix entries. It is provable that the proposed conditions are weaker than the assumption of uniform sampling and, most importantly, it is also provable that the isomeric condition is necessary for the completions of any partial matrices to be identifiable. Equipped with these new tools, we prove a collection of theorems for missing data recovery as well as convex/nonconvex matrix completion. Among other things, we study in detail a Schatten quasi-norm induced method termed isomeric dictionary pursuit (IsoDP), and we show that IsoDP exhibits some distinct behaviors absent in the traditional bilinear programs.

研究动机与目标

• 为解决矩阵补全中随机采样假设的局限性，特别是在缺失数据呈现确定性模式的实际预测应用中。
• 建立理论条件——具体为同构条件与相对良好条件性——以保证从确定性采样中精确恢复任意矩阵。
• 开发一种基于Schatten拟范数的新凸/非凸优化方法IsoDP，其表现出与传统双线性规划不同的恢复行为。
• 证明同构条件是任何部分矩阵可识别性的必要条件，从而为非均匀采样提供根本性的理论基础。

提出的方法

• 提出同构条件作为确定性采样下矩阵恢复的必要且充分条件，推广了标准的不相干性假设。
• 引入相对良好条件性的概念，以确保在存在噪声或不完整观测时的稳定恢复。
• 开发同构字典追踪（IsoDP）方法，利用Schatten拟范数促进恢复矩阵中的低秩结构。
• 采用凸松弛与非凸优化技术，在新理论框架下求解矩阵补全问题。
• 分析IsoDP的理论性质，表明其可在弱于均匀采样模型的条件下实现矩阵恢复。
• 运用矩阵理论与奇异值分解，刻画采样模式对可识别性与稳定性的影响。

实验结果

研究问题

• RQ1 在违反标准随机采样假设的确定性、非均匀采样模式下，能否实现矩阵补全？
• RQ2 是否存在一个理论条件，使得其对任意部分矩阵在确定性采样下的可识别性而言既是必要又是充分的？
• RQ3 所提出的IsoDP方法在恢复性能与理论保证方面，与传统双线性规划相比有何差异？
• RQ4 同构条件在不同采样模式下确保精确恢复中起什么作用？
• RQ5 在非均匀采样场景下，Schatten拟范数是否能诱导出优于核范数最小化的恢复行为？

主要发现

• 已证明同构条件是任何部分矩阵可识别性的必要条件，使其成为确定性采样下矩阵补全的根本要求。
• 所提出的同构条件严格弱于均匀采样假设，使在传统方法失效的场景中实现恢复成为可能。
• 基于Schatten拟范数的IsoDP展现出在标准双线性规划中未观察到的显著恢复行为，尤其在处理非均匀采样时表现突出。
• 在新条件下建立了矩阵恢复的理论保证，将矩阵补全的应用范围扩展至实际预测与非随机数据采集场景。
• 相对良好条件性确保在采样模式具有结构性或对抗性时仍能实现稳定恢复，其鲁棒性超越独立同分布采样模型。