[论文解读] Robust Matrix Completion with Corrupted Columns

Yudong Chen, Huan Xu+2 more|arXiv (Cornell University)|Feb 10, 2011

Sparse and Compressive Sensing Techniques参考文献 26被引用 37

一句话总结

本文提出了一种鲁棒的矩阵补全算法，即使在对抗者任意破坏恒定比例的列时也能成功，该算法利用低秩结构和异常值检测。在最少观测条目下实现精确恢复，理论保证无需对破坏模式做任何假设，从而在对抗性环境中实现鲁棒的协同过滤。

ABSTRACT

This paper considers the problem of matrix completion, when some number of the columns are arbitrarily corrupted, potentially by a malicious adversary. It is well-known that standard algorithms for matrix completion can return arbitrarily poor results, if even a single column is corrupted. What can be done if a large number, or even a constant fraction of columns are corrupted? In this paper, we study this very problem, and develop an efficient algorithm for its solution. Our results show that with a vanishing fraction of observed entries, it is nevertheless possible to succeed in performing matrix completion, even when the number of corrupted columns grows. When the number of corruptions is as high as a constant fraction of the total number of columns, we show that again exact matrix completion is possible, but in this case our algorithm requires many more – a constant fraction – of observations. One direct application comes from robust collaborative filtering. Here, some number of users are so-called manipulators, and try to skew the predictions of the algorithm. Significantly, our results hold without any assumptions on the number, locations or values of the observed entries of the manipulated columns. In particular, this means that manipulators can act in a completely adversarial manner. I.

研究动机与目标

• 解决当大量列被对抗者任意破坏时的矩阵补全挑战。
• 开发一种高效算法，即使在对抗性列操作下仍能保持准确性。
• 在最少观测条目下，为精确矩阵恢复提供理论保证，即使在高破坏率下也成立。
• 在用户可能作为操纵者以扭曲推荐结果的环境中，实现鲁棒的协同过滤。

提出的方法

• 该算法利用低秩矩阵结构，并通过鲁棒优化框架识别被破坏的列，实现对干净数据与被破坏数据的分离。
• 采用凸松弛技术，将矩阵建模为低秩分量与稀疏破坏分量之和。
• 该方法对低秩部分使用核范数最小化，对稀疏破坏部分使用L1-范数最小化，从而实现联合恢复。
• 引入基于列的异常值检测机制，在恢复过程中识别并排除被破坏的列。
• 该算法在一般观测模型下运行，对被破坏列中观测条目的位置或取值无任何假设。
• 理论分析表明，当每列的观测条目数量足够高时，即使存在恒定比例的被破坏列，也能实现精确恢复。

实验结果

研究问题

• RQ1 当恒定比例的列被任意破坏时，能否可靠地执行矩阵补全？
• RQ2 在对抗性列破坏下，实现精确恢复所需的最少观测条目数是多少？
• RQ3 该算法是否能在不假设被破坏列中观测条目数量、位置或取值的前提下成功运行？
• RQ4 当部分用户为操纵者时，该算法如何在协同过滤中保持鲁棒性？

主要发现

• 只要每列的观测条目占恒定比例，即使恒定比例的列被破坏，也能实现精确矩阵补全。
• 即使破坏影响大量列，该算法在最少观测条目下仍能以高概率实现精确恢复。
• 理论保证无需对被破坏列中观测条目的数量、位置或取值做任何假设，支持对抗性破坏模型。
• 该方法通过有效识别并缓解操纵性用户的影响，实现了鲁棒的协同过滤。
• 该算法保持高效与可扩展性，利用凸优化在准确性和计算成本之间取得平衡。