[논문 리뷰] Approximate tensor decompositions: disappearance of many separations

Gemma De las Cuevas, Andreas Klingler외 1명|arXiv (Cornell University)|2020. 04. 21.

Tensor decomposition and applications참고 문헌 20인용 수 7

한 줄 요약

이 논문은 텐서 랭크 간의 많은 고전적 분리(예: 랭크, 양의 정부호 랭크, 비음수 랭크 사이의 분리)가 근사 분해 하에서는 사라진다는 것을 보여준다. 저자들은 슈바른 p노름과 ℓp노름에 대해 카라테오도리 정리의 근사판을 도입함으로써, 임의의 근사 오차 ε > 0 및 p > 1에 대해 랭크가 다항식적으로 유계가 되며, 이는 이러한 분리가 미세한 교란에 대해 안정적이지 않음을 시사한다.

ABSTRACT

It is well-known that tensor decompositions show separations, that is, that constraints on local terms (such as positivity) may entail an arbitrarily high cost in their representation. Here we show that many of these separations disappear in the approximate case. Specifically, for every approximation error $\varepsilon$ and norm, we define the approximate rank as the minimum rank of an element in the $\varepsilon$-ball with respect to that norm. For positive semidefinite matrices, we show that the separations between rank, purification rank, and separable rank disappear for a large class of Schatten $p$-norms. For nonnegative tensors, we show that the separations between rank, positive semidefinite rank, and nonnegative rank disappear for all $\ell_p$-norms with $p>1$. For the trace norm ($p = 1$), we obtain upper bounds that depend on the ambient dimension. We also provide a deterministic algorithm to obtain the approximate decomposition attaining our bounds. Our main tool is an approximate version of Carath\'eodory's Theorem. Our results imply that many separations are not robust under small perturbations of the tensor, with implications in quantum many-body systems and communication complexity.

연구 동기 및 목표

• 고전적 텐서 랭크 분리(예: 랭크 대 비음수 랭크)가 미세한 교란 하에서도 유지되는지 조사하기.
• 근사 텐서 분해가 정확한 분해에서 관찰된 지수적 또는 초다항적 간격을 제거할 수 있는지 판단하기.
• 특히 슈바른 p노름과 ℓp노름(여기서 p > 1)에 대해 다양한 노름 하에서 근사 랭크의 상한을 설정하기.
• 유도된 상한을 달성하는 근사 분해를 계산하는 결정적 알고리즘 개발하기.
• 소음 또는 근사화 하에서 양자 정보 이론 및 many-body 물리학에서의 랭크 분리의 내성 분석하기.

제안 방법

• 슈바른 p노름과 ℓp노름에 맞춤형으로 조정된 카라테오도리 정리의 근사판을 도입하여, 유계 랭크를 가진 볼록 hull 근사가 가능하도록 하기.
• 주어진 노름 하에서 목표 텐서의 ε-구내에 있는 원소 중 최소 랭크를 (Ω, G)-근사 랭크로 정의하기.
• 게이지 함수와 노름 기반 최적화를 사용하여 근사 랭크를 환경 차원과 ε에 따라 유계로 제한하기.
• 특히 불변 텐서에 대해 대칭성을 표현하기 위해 군 작용과 가중치가 부여된 단체 복합체(wsc)를 활용하기.
• 유도된 상한을 달성하는 근사 분해를 계산하기 위한 결정적 알고리즘 구축하기. 이는 노름-구 내에서의 볼록 최적화 기반이다.
• 트레이스 노름(p = 1)의 경우를 별도로 분석하여, 환경 차원에 따라 다항식적으로 증가하는 상한을 제공하기.

실험 결과

연구 질문

• RQ1 랭크 ≪ 양의 정부호 랭크 ≪ 비음수 랭크와 같은 텐서 랭크 간의 분리는 미세한 근사 오차 하에서도 유지되는가?
• RQ2 p > 1인 슈바른 p노름에 대해 근사 랭크가 근사 오차 ε와 환경 차원에 대해 다항식적으로 유계가 될 수 있는가?
• RQ3 특히 양자 시스템과 통신 복잡도에서 랭크 분리는 어느 정도 교란에 대해 내성적인가?
• RQ4 트레이스 노름(p = 1)의 경우도 유사하게 유계가 될 수 있으며, 이 상한은 차원에 따라 어떻게 증가하는가?
• RQ5 텐서 곱의 구조나 국소적 거리 측도를 활용하여 전역 노름 기반 근사보다 더 날카운 상한을 유도할 수 있는가?

주요 결과

• 양의 정부호 행렬에 대해, 랭크, 정화 랭크, 분리 가능 랭크 간의 분리는 p > 1인 임의의 슈바른 p노름 하에서 근사화 시 사라진다.
• 비음수 텐서에 대해선, 랭크, 양의 정부호 랭크, 비음수 랭크 간의 분리는 p > 1인 임의의 ℓp노름 하에서 근사화 시 사라진다.
• 트레이스 노름(p = 1)의 경우, 근사 랭크에 대한 상한이 도출되었으며, 이는 환경 차원에 대해 다항식적으로 의존함을 보였다.
• 슈바른 p노름과 ℓp노름에 대해 근사 카라테오도리 정리가 확립되었으며, 이는 근사 랭크를 유계로 제한하는 핵심 이론적 도구가 된다.
• 유도된 상한 내에서 근사 분해를 계산하는 결정적 알고리즘이 제공되었으며, 이는 노름-구 내에서의 볼록 최적화 기반이다.
• 결과적으로 랭크 분리는 미세한 교란에 대해 내성적이지 않으며, 이는 양자 many-body 시스템과 통신 복잡도에 대한 함의를 지닌다.