[논문 리뷰] Fundamental Conditions for Low-CP-Rank Tensor Completion

Morteza Ashraphijuo, Xiaodong Wang|arXiv (Cornell University)|2017. 03. 31.

Tensor decomposition and applications참고 문헌 27인용 수 5

한 줄 요약

이 논문은 CP 다양체 위에서 새로운 대수기하학 기반 분석을 제안하여 유한하고 유일한 저CP-랭크 텐서 복원을 위한 결정론적 필요 및 충분 조건을 유도한다. 관측된 각 항목을 CP 분해 성분의 다항식으로 모델링함으로써, 유한한 복원 가능성은 특정 수의 대수적으로 독립적인 다항식을 갖는 것과 동치임을 밝혀내며, 이는 기존의 그라스만만 기반 방법보다 샘플 요구량을 수개월 수준으로 감소시킨다.

ABSTRACT

We consider the problem of low canonical polyadic (CP) rank tensor completion. A completion is a tensor whose entries agree with the observed entries and its rank matches the given CP rank. We analyze the manifold structure corresponding to the tensors with the given rank and define a set of polynomials based on the sampling pattern and CP decomposition. Then, we show that finite completability of the sampled tensor is equivalent to having a certain number of algebraically independent polynomials among the defined polynomials. Our proposed approach results in characterizing the maximum number of algebraically independent polynomials in terms of a simple geometric structure of the sampling pattern, and therefore we obtain the deterministic necessary and sufficient condition on the sampling pattern for finite completability of the sampled tensor. Moreover, assuming that the entries of the tensor are sampled independently with probability $p$ and using the mentioned deterministic analysis, we propose a combinatorial method to derive a lower bound on the sampling probability $p$, or equivalently, the number of sampled entries that guarantees finite completability with high probability. We also show that the existing result for the matrix completion problem can be used to obtain a loose lower bound on the sampling probability $p$. In addition, we obtain deterministic and probabilistic conditions for unique completability. It is seen that the number of samples required for finite or unique completability obtained by the proposed analysis on the CP manifold is orders-of-magnitude lower than that is obtained by the existing analysis on the Grassmannian manifold.

연구 동기 및 목표

• 저CP-랭크 텐서의 유한한 복원 가능성에 대한 샘플링 패턴에 대한 결정론적 필요 및 충분 조건을 도출하기 위해.
• 주어진 CP 랭크 하에서 유일한 복원 가능성에 대한 결정론적 충분 조건을 수립하기 위해.
• 유한한 복원 가능성 확보를 위한 샘플링 확률의 조합적 도구를 개발하여 고확률 보장 가능성을 확보하기 위해.
• CP 다양체 분석이 기존의 편평화/그라스만만 기반 접근법보다 상당히 낮은 샘플 요구량을 제공함을 보여주기 위해.

제안 방법

• CP 분해의 랭크-1 성분의 성분들에 대한 다항식으로 관측된 텐서 항목을 모델링한다.
• CP 분해를 분류할 수 있는 기하학적 패턴을 정의하여 다항식 간의 대수적 독립성 특성을 기술한다.
• 버니스타인의 정리와 대수기하학을 활용하여 샘플링 패턴의 구조에 기반해 대수적으로 독립적인 다항식의 최대 수를 결정한다.
• 랜덤 i.i.d. 샘플링 하에서 유한한 복원 가능성 확보를 위한 샘플링 확률에 대한 조합적 경계를 개발한다.
• 프레임워크를 적용하여 유한하고 유일한 복원 가능성에 필요한 샘플 수의 하한을 유도하고, 편평화 기반 방법과 비교하여 유리한 성과를 보인다.
• 확률적 농도 불등식을 적용하여 랜덤 샘플링 하에서 복원 가능성에 대한 고확률 보장을 수립한다.

실험 결과

연구 질문

• RQ1 어떤 결정론적 조건이 저CP-랭크 텐서의 유한한 복원 가능성 보장에 필요한 샘플링 패턴에 해당하는가?
• RQ2 어떤 조건이 저CP-랭크 텐서의 유일한 복원 가능성 보장에 필요한 샘플링 패턴에 해당하는가?
• RQ3 기하학적 구조에 기반해 샘플링 패턴의 구조를 어떻게 활용하여 대수적으로 독립적인 다항식의 수를 최대화할 수 있는가?
• RQ4 유한한 복원 가능성에 대해 고확률 보장을 보장하기 위한 샘플링 확률의 하한은 무엇이며, 기존 방법과 비교해 어떻게 다른가?
• RQ5 CP 다양체 기반 분석은 그라스만만 기반 편평화 접근법 대비 필요한 샘플 수를 어떻게 감소시키는가?

주요 결과

• 유한한 복원 가능성은 샘플링된 항목들로부터 유도된 특정 수의 대수적으로 독립적인 다항식을 갖는 것과 동치이다.
• 샘플링 패턴의 단순한 기하학적 함수를 사용하여 대수적으로 독립적인 다항식의 최대 수를 특성화할 수 있다.
• 제안된 방법은 그라스만만 다양체 분석 기반의 편평화 접근법 대비 필요한 샘플 수를 수개월 수준으로 감소시킨다.
• 크기가 1000^7인 7방향 텐서에서 CP 랭크가 150 이하일 경우, CP 기반의 샘플 수 하한은 편평화 기반 하한보다 상당히 낮다.
• 고확률로, 샘플링 확률가 조합적 경계로부터 유도된 임계값을 초과할 경우, 유한한 복원 가능성은 보장되며, 이는 기존의 느슨한 경계를 향상시킨다.
• 이 방법은 명시적인 샘플 크기 보장을 제공하는 결정론적 및 확률적 조건을 모두 제공하며, 유한하고 유일한 복원 가능성에 대해 보장한다.