[논문 리뷰] Tensor-Ring Nuclear Norm Minimization and Application for Visual Data Completion

Jinshi Yu, Chao Li외 2명|arXiv (Cornell University)|2019. 03. 21.

Sparse and Compressive Sensing Techniques참고 문헌 6인용 수 10

한 줄 요약

이 논문은 텐서 순환 전개를 기반으로 한 새로운 텐서 링 핵노름을 사용하여 볼록 텐서 완성 방법을 제안한다. 이는 비볼록 TR 기반 방법에 비해 계산적으로 효율적인 대안을 제공한다. 이 방법은 띠무늬 형태의 결손 데이터가 있는 이미지 및 영상 복원에서 최신 기술 수준의 성능을 달성하며, 런타임을 크게 줄이고 수동으로 TR 랭크를 선택할 필요가 없어진다.

ABSTRACT

Tensor ring (TR) decomposition has been successfully used to obtain the state-of-the-art performance in the visual data completion problem. However, the existing TR-based completion methods are severely non-convex and computationally demanding. In addition, the determination of the optimal TR rank is a tough work in practice. To overcome these drawbacks, we first introduce a class of new tensor nuclear norms by using tensor circular unfolding. Then we theoretically establish connection between the rank of the circularly-unfolded matrices and the TR ranks. We also develop an efficient tensor completion algorithm by minimizing the proposed tensor nuclear norm. Extensive experimental results demonstrate that our proposed tensor completion method outperforms the conventional tensor completion methods in the image/video in-painting problem with striped missing values.

연구 동기 및 목표

• 기존의 텐서 링(TR)-기반 저랭크 텐서 완성 방법의 높은 계산 복잡도와 비볼록성 문제를 해결하기 위해.
• TR 랭크가 벡터 값이므로 수동으로 TR 랭크를 선택하는 데 계산적으로 비용이 많이 들기 때문에 이를 제거하기 위해.
• 효율적인 최적화와 이론적 보장을 가능하게 하는 TR 랭크에 대한 볼록 대체함수를 개발하기 위해.
• 특히 이미지 및 영상에서 띠무늬 형태의 결손 패턴이 있는 시각 데이터 완성 작업에서 성능을 향상시키기 위해.

제안 방법

• 스텝 길이 파라미터 d를 사용하여 텐서 요소를 행렬로 재배열하는 새로운 연산인 텐서 순환 전개를 도입한다.
• 이론적으로 각 순환 전개된 행렬의 랭크가 인접한 TR 코어 랭크의 곱으로 제한됨을 증명하며, 행렬 랭크와 TR 랭크 간의 관계를 맺는다.
• 모든 순환 전개된 행렬의 핵노름의 합으로 텐서 링 핵노름을 정의하며, 이는 TR 랭크에 대한 볼록 대체함수로 기능한다.
• 낮은 랭크 제약 조건 하에 제안된 텐서 링 핵노름을 최소화하기 위한 ADMM 기반 최적화 알고리즘을 개발한다.
• 순환 전개의 구조를 활용하여 효율적인 계산을 가능하게 하고, 이전 TR 방법의 O(R^6) 복잡도를 피한다.
• 정보 수집을 최대화하기 위해 기본 스텝 길이 d = floor(N/2)를 사용하며, 이는 경험적으로 검증되었다.

실험 결과

연구 질문

• RQ1 텐서 링 랭크의 볼록 근사화를 구성할 수 있는가? 이는 텐서 완성에서 효율적인 최적화를 가능하게 하는가?
• RQ2 순환 전개된 행렬의 랭크는 기저가 되는 텐서 링 랭크와 어떻게 관련이 있는가?
• RQ3 제안된 텐서 링 핵노름은 띠무늬 형태의 결손 패턴이 있는 시각 데이터에서 기존의 TR 기반 방법보다 정확도와 런타임 측면에서 뛰어난 성능을 보일 수 있는가?
• RQ4 제안된 방법은 성능을 유지하거나 향상시키면서도 수동으로 TR 랭크를 선택할 필요 없이 제거할 수 있는가?

주요 결과

• 제안된 TRNNM 방법은 결손 띠무늬가 있는 이미지 및 영상 데이터셋에서 비교된 모든 방법들 중에서 가장 낮은 상대 제곱오차(RSE)를 달성한다.
• 70% 결손 데이터(mr=0.7)를 가진 오션 영상의 경우, TRNNM은 RSE 0.066을 기록하여 TR-ALS(0.113) 및 기타 방법들을 능가한다.
• 오션 영상에서 mr=0.7일 때 TRNNM의 런타임은 233.71초로, TR-ALS의 851.37초보다 크게 감소하여 실생활 적용에 실현 가능하게 된다.
• 9차 텐서의 경우 스텝 길이 d=4를 사용한 방법이 가장 우수한 성능을 보였으며, 이는 d=floor(N/2)가 최적임을 검증한다.
• 시각적 결과에서는 TRNNM이 복원된 이미지 및 영상에서 더 섬세한 디테일과 질감을 유지함을 보여주며, 특히 복잡한 영역에서 띠무늬 결손이 있는 경우 유의미하게 우수하다.
• 순환 전개된 행렬의 랭크와 TR 랭크 간의 이론적 연결 고리는 본 방법에서 사용된 볼록 근사화의 견고한 기반을 제공한다.