[論文レビュー] Symmetric tensor decomposition

Jérôme Brachat, Pierre Comon+2 more|arXiv (Cornell University)|Jan 23, 2009

Tensor decomposition and applications参考文献 38被引用数 8

ひとこと要約

本稿では、同次多項式とハンケル作用素の双対性を活用して、正確なランク1分解を一般固有値問題を用いて計算可能な、対称テンソル分解のための新規アルゴリズムを提示する。この手法はグローバル収束を保証し、部分的ランクに対しても対応可能であり、ALSなどの反復的手法の限界を克服する。

ABSTRACT

We present an algorithm for decomposing a symmetric tensor, of dimension n and order d as a sum of rank-1 symmetric tensors, extending the algorithm of Sylvester devised in 1886 for binary forms. We recall the correspondence between the decomposition of a homogeneous polynomial in n variables of total degree d as a sum of powers of linear forms (Waring's problem), incidence properties on secant varieties of the Veronese Variety and the representation of linear forms as a linear combination of evaluations at distinct points. Then we reformulate Sylvester's approach from the dual point of view. Exploiting this duality, we propose necessary and sufficient conditions for the existence of such a decomposition of a given rank, using the properties of Hankel (and quasi-Hankel) matrices, derived from multivariate polynomials and normal form computations. This leads to the resolution of polynomial equations of small degree in non-generic cases. We propose a new algorithm for symmetric tensor decomposition, based on this characterization and on linear algebra computations with these Hankel matrices. The impact of this contribution is two-fold. First it permits an efficient computation of the decomposition of any tensor of sub-generic rank, as opposed to widely used iterative algorithms with unproved global convergence (e.g. Alternate Least Squares or gradient descents). Second, it gives tools for understanding uniqueness conditions, and for detecting the rank.

研究の動機と目的

• 既存の反復的手法における収束保証の欠如に起因する、対称テンソル分解のグローバルに収束するアルゴリズムの開発。
• 2変数形式の古典的アルゴリズムを、より高次元の対称テンソルに拡張すること。
• 与えられたランクにおける対称テンソル分解の存在に関する必要十分条件を、ハンケル行列のランク条件を用いて提供すること。
• 代数幾何学と正規形計算を用いて、分解ランクと一意性条件の正確な計算を可能とすること。
• 完全なモーメントデータが得られない状況でも、分解が可能となるよう、トレuncatedハンケル問題を効率的に解くこと。

提案手法

• 対称テンソル分解を双対問題に再定式化：異なる点における評価の線形結合として線形形式を分解する。
• アポラール双対性とゴレンシュタイン代数の構造を用い、モーメント行列によって定義される商代数とテンソルを関連付ける。
• 多変数多項式のモーメントからハンケル行列および準ハンケル行列を構築し、その成分はテンソルの成分から導出される。
• 乗法作用素の可換性を行列方程式（M_xi M_xj = M_xj M_xi）で制約し、未知成分に対する二次方程式系を導出する。
• 一般固有値問題 (Δ₁ - λΔ₀)X = 0 を解いて、分解に含まれる線形形式に対応する根を回復する。
• 過剰決定線形系を用いて、最終的な分解におけるランク1項の係数を計算する。

実験結果

リサーチクエスチョン

• RQ1 任意の次数および次元を持つ対称テンソルを、反復的ヒューリスティクスに依存せずに正確かつグローバルに分解できるか？
• RQ2 与えられたランク r における対称テンソル分解の存在に関する必要十分条件は何か？
• RQ3 代数的および線形代数的ツールを用いて、対称テンソルのランクを検出し、一意に特定できるか？
• RQ4 完全なモーメントデータが得られない状況でも、トレuncatedハンケル問題を効果的に解けるか？
• RQ5 提案されたアルゴリズムの計算複雑度は、算術演算およびブール演算の観点からどのように評価できるか？

主な発見

• アルゴリズムは、ALS や勾配降下法などの反復的手法に内在する収束問題を回避し、部分的ランクの対称テンソル分解を正確に計算可能である。
• テンソルのモーメントから導出されるハンケル行列のランクを分析することにより、対称テンソルの真のランクを検出可能である。
• 例題では、3変数4次テンソルが6つのランク1項に正確に分解され、複素共役ペアを含む。
• 一般固有値問題を解くことで分解が検証され、6つの固有ベクトルが線形形式の根に対応することが得られた。
• 乗法作用素の可換性制約から導出される小次元多項式系を解くことで、非一般状況に対しても対応可能である。
• 関連するゴレンシュタイン代数とハンケル作用素の構造を用いて、一意性条件の完全な特徴付けが可能である。