[논문 리뷰] Robust Matrix Completion with Corrupted Columns

Yudong Chen, Huan Xu외 2명|arXiv (Cornell University)|2011. 02. 10.

Sparse and Compressive Sensing Techniques참고 문헌 26인용 수 37

한 줄 요약

이 논문은 저랭크 구조와 이상치 탐지 기법을 활용하여, 적대자에 의해 임의로 손상된 상수 비율의 열이 존재하는 상황에서도 정확한 복원을 달성하는 강건한 행렬 완성 알고리즘을 제안한다. 관측된 항목 수가 최소한일지라도 정확한 복원이 가능하며, 손상 패tern에 대한 가정 없이 이론적 보장을 제공함으로써, 적대적 환경에서의 강건한 공동 필터링을 가능하게 한다.

ABSTRACT

This paper considers the problem of matrix completion, when some number of the columns are arbitrarily corrupted, potentially by a malicious adversary. It is well-known that standard algorithms for matrix completion can return arbitrarily poor results, if even a single column is corrupted. What can be done if a large number, or even a constant fraction of columns are corrupted? In this paper, we study this very problem, and develop an efficient algorithm for its solution. Our results show that with a vanishing fraction of observed entries, it is nevertheless possible to succeed in performing matrix completion, even when the number of corrupted columns grows. When the number of corruptions is as high as a constant fraction of the total number of columns, we show that again exact matrix completion is possible, but in this case our algorithm requires many more – a constant fraction – of observations. One direct application comes from robust collaborative filtering. Here, some number of users are so-called manipulators, and try to skew the predictions of the algorithm. Significantly, our results hold without any assumptions on the number, locations or values of the observed entries of the manipulated columns. In particular, this means that manipulators can act in a completely adversarial manner. I.

연구 동기 및 목표

• 중요한 비율의 열이 적대자에 의해 임의로 손상된 상황에서 행렬 완성 문제를 해결하기 위해.
• 적대적 열 조작에도 정확도를 유지하는 효율적인 알고리즘을 개발하기 위해.
• 관측된 항목 수가 최소한일지라도 정확한 행렬 복원을 위한 이론적 보장을 제공하기 위해, 특히 높은 손상 비율 상황에서도 적용 가능하도록 하기 위해.
• 사용자가 추천을 왜곡하기 위해 조작자로 행동할 수 있는 환경에서 강건한 공동 필터링을 가능하게 하기 위해.

제안 방법

• 알고리즘은 저랭크 행렬 구조를 활용하며, 청소된 데이터와 손상된 데이터를 분리하는 강건한 최적화 프레임워크를 통해 손상된 열을 식별한다.
• 행렬을 저랭크 성분과 희박한 손상 성분의 합으로 모델링하기 위해 볼록 최적화 기법을 적용한다.
• 저랭크 성분은 핵노름 최소화를, 희박한 손상 성분은 L1-노름 최소화를 통해 공동 복원을 가능하게 한다.
• 알고리즘은 복구 과정 중에 손상된 열을 식별하고 제외하는 열 기반 이상치 탐지 메커니즘을 도입한다.
• 일반적인 관측 모델을 기반으로 작동하며, 손상된 열의 관측 항목의 위치나 값에 대한 가정이 필요 없다.
• 이론적 분석을 통해, 열당 관측 항목 수가 충분히 높을 경우, 상수 비율의 열이 손상된 상황에서도 정확한 복원이 가능하다고 밝혀졌다.

실험 결과

연구 질문

• RQ1 일정 비율의 열이 임의로 손상된 상황에서도 행렬 완성이 신뢰성 있게 수행될 수 있는가?
• RQ2 적대적 열 손상 하에서 정확한 복원을 달성하기 위해 필요한 최소한의 관측 항목 수는 얼마인가?
• RQ3 손상된 열의 관측 항목 수, 위치, 값에 대한 가정 없이도 알고리즘이 성공할 수 있는가?
• RQ4 일부 사용자가 조작자로 행동할 경우, 알고리즘이 공동 필터링에서 어떻게 강건성을 유지하는가?

주요 결과

• 열당 관측 항목 수가 상수 비율 이상일 경우, 상수 비율의 열이 손상된 상황에서도 정확한 행렬 완성이 가능하다.
• 관측 항목 수가 최소한일지라도, 알고리즘이 고려할 만한 높은 확률로 정확한 복원을 달성하며, 손상이 많은 열이 존재하더라도 성능이 유지된다.
• 손상된 열의 관측 항목 수, 위치, 값에 대한 가정 없이도 이론적 보장이 유지되어, 적대적 손상 모델을 지원한다.
• 알고리즘은 조작자로 행동하는 사용자의 영향을 효과적으로 식별하고 완화함으로써, 강건한 공동 필터링을 가능하게 한다.
• 알고리즘은 효율적이고 확장 가능하며, 볼록 최적화를 통해 정확도와 계산 비용의 균형을 잘 유지한다.