[논문 리뷰] Tensor Robust Principal Component Analysis: Exact Recovery of Corrupted Low-Rank Tensors via Convex Optimization

Canyi Lu, Jiashi Feng외 4명|arXiv (Cornell University)|2017. 08. 14.

Sparse and Compressive Sensing Techniques참고 문헌 25인용 수 28

한 줄 요약

이 논문은 텐서 핵노름과 ℓ1-노름 최소화를 통해 합으로부터 저튜벌랭크 텐서와 희박한 오차 텐서를 정확히 복원할 수 있는 볼록 최적화 프레임워크인 텐서 강건 주성분 분석(TRPCA)을 제안한다. 이 방법은 t-SVD를 통해 로버스트 PCA를 텐서로 확장하며, 약간의 비균일성과 희박성 가정 하에 정확한 복원을 달성하고 이론적 보장과 함께 영상 노이즈 제거 응용에서 뛰어난 성능을 보인다.

ABSTRACT

This paper studies the Tensor Robust Principal Component (TRPCA) problem which extends the known Robust PCA (Candes et al. 2011) to the tensor case. Our model is based on a new tensor Singular Value Decomposition (t-SVD) (Kilmer and Martin 2011) and its induced tensor tubal rank and tensor nuclear norm. Consider that we have a 3-way tensor ${\mathcal{X}}\in\mathbb{R}^{n_1 imes n_2 imes n_3}$ such that ${\mathcal{X}}={\mathcal{L}}_0+{\mathcal{E}}_0$, where ${\mathcal{L}}_0$ has low tubal rank and ${\mathcal{E}}_0$ is sparse. Is that possible to recover both components? In this work, we prove that under certain suitable assumptions, we can recover both the low-rank and the sparse components exactly by simply solving a convex program whose objective is a weighted combination of the tensor nuclear norm and the $\ell_1$-norm, i.e., $\min_{\mathcal{L},\ {\mathcal{E}}} \ \|{\mathcal{L}}\|_*+λ\|{\mathcal{E}}\|_1, \ ext{s.t.} \ {\mathcal{X}}={\mathcal{L}}+{\mathcal{E}}$, where $λ= {1}/{\sqrt{\max(n_1,n_2)n_3}}$. Interestingly, TRPCA involves RPCA as a special case when $n_3=1$ and thus it is a simple and elegant tensor extension of RPCA. Also numerical experiments verify our theory and the application for the image denoising demonstrates the effectiveness of our method.

연구 동기 및 목표

• 텐서 고유의 구조를 활용하여 행렬에서의 로버스트 PCA를 텐서로 확장하기 위해.
• 크고 희박한 손상이 있는 저랭크 텐서 복원 문제를 다루기 위해.
• 저랭크 및 희박한 성분을 모두 정확히 복원할 수 있도록 볼록 최적화 모델을 개발하기 위해.
• 정확한 복원이 가능한 이론적 조건을 설정하기 위해.
• 실세계 응용 분야인 영상 노이즈 제거와 같은 분야에서의 방법의 유효성을 입증하기 위해.

제안 방법

• 텐서 튜벌 랭크와 텐서 핵노름을 정의하기 위해 새로운 텐서 특이값 분해(t-SVD)를 제안한다.
• 볼록 최적화 문제를 설정한다: X = L + E 를 만족시키며, ||L||_* + λ||E||_1 를 최소화하되, λ = 1/√(max(n1,n2)n3) 로 설정한다.
• 분해 과정에서 다차원 구조를 유지하기 위해 t-SVD를 사용하여 행렬 편개를 피한다.
• 텐서 튜벌 랭크의 볼록 대체물로 텐서 핵노름을 활용한다.
• 텐서 데이터를 행렬로 재구성하지 않고 모델을 적용하여 공간적 및 구조적 무결성을 유지한다.
• 얼굴 복원 및 컬러 영상 노이즈 제거 작업에서 방법의 실증적 검증을 수행한다.

실험 결과

연구 질문

• RQ1 볼록 최적화를 통해 합으로부터 저튜벌랭크 텐서와 희박한 텐서를 정확히 복원할 수 있는가?
• RQ2 제안된 TRPCA 방법이 텐서 환경에서 RPCA의 이론적 보장을 유지하는가?
• RQ3 영상 노이즈 제거에서 TRPCA는 매트릭스 기반 RPCA 및 SNN 기반 텐서 방법보다 어떻게 성능을 발휘하는가?
• RQ4 TRPCA 프레임워크에서 정규화 파rameter λ의 최적 선택은 무엇인가?
• RQ5 TRPCA는 컬러 영상 및 영상과 같은 실세계 데이터의 다차원 구조를 효과적으로 활용할 수 있는가?

주요 결과

• 약간의 비균일성과 희박성 가정 하에 TRPCA는 저랭크 및 희박한 텐서 성분을 정확히 복원한다.
• 영상 노이즈 제거에서 RPCA와 SNN을 능가하며, 10% 픽셀 오염이 있는 50장의 컬러 영상에서 높은 PSNR 값을 기록한다.
• 수치 실험을 통해 이론적 복원 보장을 확인하였으며, 얼굴 및 영상 데이터에서 노이즈 제거 성공을 입증하였다.
• λ = 1/√(max(n1,n2)n3) 의 선택은 자유 매개변수 없이 효과적인 성능을 이끌어낸다.
• TRPCA는 RPCA가 각 채널을 별도로 처리하는 것과 달리 다차원 텐서 구조를 활용함으로써 뛰어난 성능을 발휘한다.