[논문 리뷰] A novel nonconvex approach to recover the low-tubal-rank tensor data: when t-SVD meets PSSV.

Tai-Xiang Jiang, Ting‐Zhu Huang외 2명|arXiv (Cornell University)|2017. 12. 15.

Tensor decomposition and applications참고 문헌 60인용 수 9

한 줄 요약

이 논문은 기존의 볼록 대체물(텐서 핵노름, TNN) 대신 부분합 텐서 핵노름(PSTNN)을 사용하는 비볼록 접근법을 제안하여 저튜벌랭크 텐서 복원을 향상시킨다. t-SVD와 PSTNN을 활용함으로써 텐서 완성 및 텐서 주성분 분석에서 편향을 감소시키며, 시뮬레이션 및 실세계 데이터에서 뛰어난 성능을 보여준다.

ABSTRACT

A recently developed novel tensor decomposition scheme named tensor singular value decomposition (t-SVD) results in a notion of rank referred to as the tubal-rank. Many methods minimize its convex surrogate the tensor nuclear norm (TNN) to enhance the low tubal-rankness of the underlying data. Generally, minimizing the TNN may cause some biases. In this paper, to alleviate these bias phenomenons, we consider to minimize the proposed partial sum of the tensor nuclear norm (PSTNN) in place of the TNN. The novel PSTNN is applied to the tasks of tensor completion and tensor principal component analysis. Numerical experiments are conducted on the synthetic data and real-world data, and experimental results reveal the effectiveness of the proposed methods.

연구 동기 및 목표

• 저튜벌랭크 텐서 복원에서 볼록 텐서 핵노름(TNN)을 최소화할 때 발생하는 편향을 해결한다.
• TNN의 볼록 코어전환의 한계를 극복하기 위해 TNN의 비볼록 대체물로 제안한다.
• 부분합 텐서 핵노름(PSTNN)을 사용한 새로운 텐서 랭크 근사법을 개발한다.
• PSTNN을 텐서 완성 및 텐서 주성분 분석에 적용하여 데이터 복원 성능을 향상시킨다.
• 시뮬레이션 및 실세계 데이터 세트에서의 광범위한 수치 실험을 통해 PSTNN의 유효성을 입증한다.

제안 방법

• 텐서 특이값 분해(t-SVD)를 사용하여 튜벌랭크를 정의하고 저랭크 텐서 모델링을 가능하게 한다.
• 튜벌랭크의 비볼록 대체물로 부분합 텐서 핵노름(PSTNN)을 도입한다.
• PSTNN를 최소화하는 최적화 문제를 설정하여 텐서 데이터의 저튜벌랭크 구조를 촉진한다.
• 제안된 PSTNN 기반 모델을 텐서 완성 및 텐서 주성분 분석 작업에 적용한다.
• 최적화 과정에서 텐서 구성요소를 효율적으로 계산하고 업데이트하기 위해 t-SVD의 대수적 성질을 활용한다.
• 수렴 보장을 갖춘 반복 알고리즘을 설계하여 비볼록 PSTNN 최소화 문제를 해결한다.

실험 결과

연구 질문

• RQ1 텐서 핵노름의 비볼록 대체물이 볼록 코어전환보다 저튜벌랭크 텐서 복원에서 성능을 향상시킬 수 있는가?
• RQ2 부분합 텐서 핵노름(PSTNN)이 텐서 완성에서 TNN보다 편향을 얼마나 줄이는가?
• RQ3 PSTNN이 텐서 주성분 분석에서 저랭크 텐서 복원에 얼마나 기여하는가?
• RQ4 제안된 방법이 시뮬레이션 및 실세계 텐서 데이터 모두에서 복원 정확도를 유지하거나 향상시키는가?
• RQ5 t-SVD 프레임워크가 PSTNN과 어떻게 통합되어 효율적이고 효과적인 텐서 복원을 가능하게 하는가?

주요 결과

• 제안된 PSTNN 방법은 볼록 텐서 핵노름을 최소화하는 것보다 저튜벌랭크 텐서 복원에서 편향을 줄인다.
• 시뮬레이션 데이터에 대한 수치 실험 결과, PSTNN는 TNN 기반 방법보다 더 높은 복원 정확도를 달성한다.
• 텐서 완성 작업에서 PSTNN는 더 낮은 재구성 오차와 향상된 저랭크 근사 성능을 보이며 TNN를 능가한다.
• 실세계 데이터에서의 성능이 뛰어나 실용적 적용 가능성을 확인한다.
• PSTNN를 사용한 텐서 주성분 분석은 TNN 기반 접근법보다 저랭크 및 희소 성분을 더 잘 분리한다.
• t-SVD와 PSTNN의 통합은 텐서 데이터 복원에서 효율적인 계산과 효과적인 저랭크 모델링을 가능하게 한다.