[論文レビュー] Tensor and Its Tucker Core: the Invariance Relationships

Bo Jiang, Fan Yang+1 more|arXiv (Cornell University)|Jan 7, 2016

Tensor decomposition and applications参考文献 32被引用数 3

ひとこと要約

本稿では、CPランク、ボーダーランク、テンソル・シュレーディンガー準ノルム、Z固有値といった重要なテンソル特性がタッカー分解において不変であることを確立しており、元の高次元テンソルではなく小さなコアテンソル上で解析を行うことで、顕著な計算コスト削減が可能である。数値実験では、3次から5次までのテンソル（最大8×8×8）を用いて、計算時間の最大99％の削減を達成した。

ABSTRACT

In [13], Hillar and Lim famously demonstrated that "multilinear (tensor) analogues of many efficiently computable problems in numerical linear algebra are NP-hard". Despite many recent advancements, the state-of-the-art methods for computing such `tensor analogues' still suffer severely from the curse of dimensionality. In this paper we show that the Tucker core of a tensor however, retains many properties of the original tensor, including the CP rank, the border rank, the tensor Schatten quasi norms, and the Z-eigenvalues. When the core tensor is smaller than the original tensor, this property leads to considerable computational advantages as confirmed by our numerical experiments. In our analysis, we in fact work with a generalized Tucker-like decomposition that can accommodate any full column-rank factor matrices.

研究の動機と目的

• タッカー分解における基本的テンソル特性の不変性を体系的に確立すること。
• 元のテンソルではなく、より小さなタッカーコアを用いることで、NP困難なテンソル問題の計算複雑度を低減すること。
• コアテンソルを用いた統一的なフレームワークを提供し、テンソルのランク、ノルム、固有値を計算すること。
• 構造化されたテンソルに対する数値実験を通じて、実際の計算コスト削減を実証すること。
• 任意のフルランク列を持つ因子行列を含むようにタッカー分解を一般化し、適用範囲を拡大すること。

提案手法

• 正規直交HOSVDを超える、フルランク列を持つ因子行列を有する一般化されたタッカー分解を提案する。
• CPランク、ボーダーランク、テンソル・シュレーディンガー準ノルム、Z固有値が、元のテンソルからタッカーコアに保存されることを証明する。
• タッカーコアを計算的代替物として用いる：より小さなコアテンソル上でテンソル解析（例：固有値計算）を実行し、結果を元のテンソルに変換する。
• SOS（二乗和）法を用いてコアテンソル上でZ固有値を計算することで、問題サイズと実行時間を短縮する。
• さまざまなテンソル次数と構造に対して、計算上の利点を検証するための数値実験を実施する。
• 3段階のスキームを実装する：タッカー分解 → コア解析 → 結果を元のテンソルに変換する。

実験結果

リサーチクエスチョン

• RQ1 テンソルのCPランクは、そのタッカーコアにおいても変わらないか？
• RQ2 テンソル・シュレーディンガー準ノルムはタッカー分解において不変か？
• RQ3 高次元テンソルのZ固有値と固有ベクトルは、そのタッカーコアを介してより効率的に計算可能か？
• RQ4 NP困難なテンソル問題において、タッカーコアは計算時間をどの程度短縮できるか？
• RQ5 フルランク列を持つ一般化タッカー分解においても、テンソル特性の不変性は保たれるか？

主な発見

• 理論的解析と数値的検証により、テンソルのCPランクはタッカーコアのそれと等しいことが確認された。
• テンソル・シュレーディンガー準ノルムはタッカー分解において不変であり、コアテンソルにおいてもそのノルムが保持された。
• 元のテンソルのZ固有値とそれに対応する固有ベクトルは、タッカーコアから完全に回復可能であり、すべてのテストケースで正確な一致が観察された。
• 例2（8×8×8の3次テンソル）では、コア（2×2×2）での計算に2.66秒を要したのに対し、元のテンソルでは17,670.71秒を要した。
• 例3（4×4×4×4×4の5次テンソル）では、コアでの計算に5.23秒を要したのに対し、元のテンソルでは186.58秒を要し、97％の時間短縮を達成した。
• すべての例において、元のテンソルサイズに関わらずコアサイズが2にまで縮小され、固有値計算における顕著な高速化が実現された。