[논문 리뷰] Exact Recovery of Tensor Robust Principal Component Analysis under Linear Transforms

Canyi Lu, Pan Zhou|arXiv (Cornell University)|2019. 07. 16.

Tensor decomposition and applications참고 문헌 30인용 수 6

한 줄 요약

이 논문은 임의의 가역 선형 변환을 사용하여 행렬 RPCA를 텐서로 일반화하는 새로운 텐서 강건 주성분 분석(TRPCA) 프레임워크를 제안한다. 변환에 따라 달라지는 텐서 튜벌 랭크와 노름을 정의함으로써, 비균일성 조건 하에서 볼록 최적화를 통한 정확한 저랭크 및 희박 성분 복원이 가능해지며, 특히 DCT를 사용할 경우 기존 방법들보다 뛰어난 이미지 복원 성능을 보인다.

ABSTRACT

This work studies the Tensor Robust Principal Component Analysis (TRPCA) problem, which aims to exactly recover the low-rank and sparse components from their sum. Our model is motivated by the recently proposed linear transforms based tensor-tensor product and tensor SVD. We define a new transforms depended tensor rank and the corresponding tensor nuclear norm. Then we solve the TRPCA problem by convex optimization whose objective is a weighted combination of the new tensor nuclear norm and the $\ell_1$-norm. In theory, we show that under certain incoherence conditions, the convex program exactly recovers the underlying low-rank and sparse components. It is of great interest that our new TRPCA model generalizes existing works. In particular, if the studied tensor reduces to a matrix, our TRPCA model reduces to the known matrix RPCA. Our new TRPCA which is allowed to use general linear transforms can be regarded as an extension of our former TRPCA work which uses the discrete Fourier transform. But their proof of the recovery guarantee is different. Numerical experiments verify our results and the application on image recovery demonstrates the superiority of our method.

연구 동기 및 목표

• 이산 푸리에 변환 이외의 선형 변환을 사용하여 행렬 강건 PCA를 텐서로 일반화한다.
• 가역 선형 변환의 선택에 따라 달라지는 새로운 텐서 튜벌 랭크와 노름을 정의한다.
• 볼록 TRPCA 모델이 저랭크 및 희박 텐서 성분을 정확히 복원할 수 있는 이론적 조건을 수립한다.
• 변환의 선택이 복원 성능에 상당한 영향을 미친다는 것을 경험적으로 입증하며, DCT가 DFT와 랜덤 직교 행렬보다 우수한 성능을 보인다.

제안 방법

• 임의의 가역 선형 변환을 기반으로 한 일반화된 텐서-텐서 곱을 도입하여, 새로운 텐서 튜벌 랭크와 텐서 노름 정의를 가능하게 한다.
• 새로운 텐서 노름과 희박 성분의 ℓ₁-노름의 가중합을 최소화하는 볼록 최적화 모델을 제안한다.
• 일반화된 t-곱을 기반으로 한 t-SVD 프레임워크를 사용하여 효율적인 계산과 이론적 분석을 가능하게 한다.
• 기존의 행렬 RPCA와 유사한 비균일성 조건 하에서 정확한 복원 보장을 유도하며, 이는 이전 결과를 텐서 경우로 확장한다.
• 성능 및 강건성 평가를 위해 DCT와 랜덤 직교 행렬(ROM)을 대체 변환으로 활용한다.
• 색상 이미지 복원에 이 방법을 적용하여 DFT를 사용한 기존 TRPCA, RPCA, SNN와 비교한다.

실험 결과

연구 질문

• RQ1 텐서 RPCA 모델은 이산 푸리에 변환을 초월해 다른 가역 선형 변환으로 일반화될 수 있는가?
• RQ2 선형 변환의 선택이 TRPCA 모델의 정확한 복원 성능에 상당한 영향을 미치는가?
• RQ3 선택된 변환에 따라 달라지는 텐서 노름을 사용할 경우, 이론적 조건 하에서 저랭크 및 희박 텐서 성분을 정확히 복원할 수 있는가?
• RQ4 제안된 TRPCA 모델은 RPCA, SNN, DFT를 사용한 기존 TRPCA와 비교해 이미지 정화 작업에서 어떻게 성능을 내는가?
• RQ5 새로운 TRPCA 모델은 계산적으로 효율적이며 실세계 텐서 데이터에 대해 확장 가능한가?

주요 결과

• DCT를 변환으로 사용한 제안된 TRPCA 모델이 이미지 복원에서 가장 높은 PSNR를 기록하며, RPCA, SNN, DFT를 사용한 TRPCA를 모두 능가한다.
• 이론적 분석은 비균일성 조건 하에서 볼록 최적화 모델이 기저의 저랭크 및 희박 성분을 정확히 복원할 수 있음을 확인한다.
• 랜덤 직교 행렬(ROM)을 변환으로 사용할 경우 복원 성능이 열악해지며, 이는 변환 선택의 결정적 역할을 강조한다.
• 이 방법은 RPCA 및 이전 TRPCA와 유사한 계산 효율성을 유지하며, 최신 기술 수준의 방법들과 비교해 실행 시간이 유사하다.
• 선형 변환 기반의 새로운 텐서 노름은 이전의 SNN 기반 접근보다 더 날카운 볼록 근사화를 제공하여 순서 최적의 복원을 가능하게 한다.
• 모델은 행렬 RPCA 및 이전의 TRPCA를 일반화하며, 텐서가 행렬으로 축소될 경우 기존의 행렬 RPCA로 감소한다.