[論文レビュー] Robust Matrix Completion with Corrupted Columns

Yudong Chen, Huan Xu+2 more|arXiv (Cornell University)|Feb 10, 2011

Sparse and Compressive Sensing Techniques参考文献 26被引用数 37

ひとこと要約

この論文は、敵対的攻撃によって任意に破損させられた一定割合の列に対しても成功するロバストな行列補完アルゴリズムを提案する。低ランク構造と外れ値検出を活用し、最小限の観測エントリでも正確な回復を達成する。腐敗パターンに関する仮定なしに理論的保証が成り立つため、敵対的環境下でのロバストな協調フィルタリングが可能になる。

ABSTRACT

This paper considers the problem of matrix completion, when some number of the columns are arbitrarily corrupted, potentially by a malicious adversary. It is well-known that standard algorithms for matrix completion can return arbitrarily poor results, if even a single column is corrupted. What can be done if a large number, or even a constant fraction of columns are corrupted? In this paper, we study this very problem, and develop an efficient algorithm for its solution. Our results show that with a vanishing fraction of observed entries, it is nevertheless possible to succeed in performing matrix completion, even when the number of corrupted columns grows. When the number of corruptions is as high as a constant fraction of the total number of columns, we show that again exact matrix completion is possible, but in this case our algorithm requires many more – a constant fraction – of observations. One direct application comes from robust collaborative filtering. Here, some number of users are so-called manipulators, and try to skew the predictions of the algorithm. Significantly, our results hold without any assumptions on the number, locations or values of the observed entries of the manipulated columns. In particular, this means that manipulators can act in a completely adversarial manner. I.

研究の動機と目的

• 一定割合の列が敵対的攻撃によって任意に破損する状況における行列補完の課題に対処すること。
• 敵対的列操作に対しても精度を維持する効率的なアルゴリズムを開発すること。
• 最小限の観測エントリでも、高い腐敗率が存在する状況下で正確な行列回復の理論的保証を提供すること。
• ユーザーが推薦を歪めようとする操作者として振る舞う可能性がある状況でも、ロバストな協調フィルタリングを可能にすること。

提案手法

• アルゴリズムは低ランク行列構造を活用し、ロバスト最適化フレームワークを用いて、綺麗なデータと破損データを分離することで、破損した列を同定する。
• 行列を低ランク成分とスパース腐敗成分の和としてモデル化するための凸緩和技術を採用する。
• 低ランク部分にはトレースノルム最小化、スパース腐敗部分にはL1ノルム最小化を用い、同時に回復を可能にする。
• 列単位の外れ値検出メカニズムを導入し、回復プロセス中に破損した列を特定・除外する。
• 観測エントリの位置や値に関する仮定なしに動作する一般化された観測モデルを採用する。
• 理論的分析により、列ごとの観測エントリ数が十分に高い場合、一定割合の列が破損していても正確な回復が可能であることが示された。

実験結果

リサーチクエスチョン

• RQ1 一定割合の列が任意に破損する状況でも、行列補完を信頼的に実行できるか？
• RQ2 敵対的列腐敗下で正確な回復を達成するために必要な最小の観測エントリ数は何か？
• RQ3 破損した列の観測エントリの数・位置・値に関する仮定なしに、アルゴリズムは成功するか？
• RQ4 一部のユーザーが操作者として振る舞う状況下でも、アルゴリズムは協調フィルタリングにおいてロバスト性を保つのか？

主な発見

• 列ごとの観測エントリが一定割合以上ある限り、一定割合の列が破損していても正確な行列補完が可能である。
• 最小限の観測エントリでも、高い確率で正確な回復が達成され、腐敗が多数の列に及んでも問題ない。
• 破損した列の観測エントリの数・位置・値に関する仮定なしに理論的保証が成り立つため、敵対的腐敗モデルを支持する。
• 操作的なユーザーの影響を効果的に同定・低減することで、ロバストな協調フィルタリングを実現する。
• 凸最適化を活用することで、精度と計算コストのバランスを保ちながら、効率的かつスケーラブルなままである。