[論文レビュー] The average number of critical rank-one approximations to a tensor

Jan Draisma, Emil Horobeţ|arXiv (Cornell University)|Aug 15, 2014

Tensor decomposition and applications参考文献 16被引用数 4

ひとこと要約

本稿では、ランダム行列理論を用いて高次元積分を低次元積分に還元する新しい公式を用い、ガウス分布から抽出されたランダムなテンソルに対する実の臨界的ランク1近似の期待値を計算する。主な貢献は、対称行列上の積分を含む閉形式の式であり、明示的な数値結果により、テンソルサイズが大きくなるにつれて臨界点の平均数が急激に増加することが示されている。特に対称ケースにおいて顕著である。

ABSTRACT

Motivated by the many potential applications of low-rank multi-way tensor approximations, we set out to count the rank-one tensors that are critical points of the distance function to a general tensor v. As this count depends on v, we average over v drawn from a Gaussian distribution, and find formulas that relates this average to problems in random matrix theory.

研究の動機と目的

• 一般テンソルがガウス分布に従う場合の、実の臨界的ランク1近似の期待値を特定すること。
• 臨界点の数がテンソルに依存して変動するという課題に対処することにより、単一のカウントが不適切であることを明らかにすること。
• ランダム行列理論を用いて、テンソル空間上の高次元積分を低次元積分に還元する公式を導出すること。
• [FO12]で知られている複素数の臨界点数と比較し、挙動と増加の違いを明らかにすること。

提案手法

• ガウス測度に関してテンソル空間上で臨界点の数を統合することにより、実臨界点の期待値の式を導出する。
• 元のN次元積分（N = ∏ni）を、w0と行列Cijによってパラメータ化された次元1 + ∑i<j(ni−1)(nj−1)の空間上の低次元積分に還元する。
• ガウス行列の絶対行列式の分布などのランダム行列理論の道具を用いて、還元された積分を評価する。
• Kuznetsovのトレース公式と[Mui82]の結果を応用し、固有値およびバーヴァンデルムデターミナントを含む積分を評価する。
• 対称行列上の積分を簡略化するために、対称性と不変性の性質を活用する。
• モンテカルロサンプリングを用いて積分を数値的に推定し、サンプルサイズを倍増させることで相対誤差10−4に収束するまで繰り返す。

実験結果

リサーチクエスチョン

• RQ1 標準ガウス分布から抽出されたランダムテンソルに対する実の臨界的ランク1近似の期待値は何か？
• RQ2 実臨界点の平均数は、[FO12]で知られている複素数のカウントと比べてどのように異なるか？
• RQ3 ランダム行列理論を用いて、テンソル空間上の高次元積分を扱いやすい低次元積分に還元できるか？
• RQ4 テンソルの次元が増加するに従い、臨界点の平均数は安定化するか、特定の漸近的挙動を示すか？
• RQ5 実数と複素数の臨界点数の観察された乖離を裏付ける幾何学的または代数的構造は何か？

主な発見

• ガウステンソルに対する実の臨界的ランク1近似の期待値は、次元1 + ∑i<j(ni−1)(nj−1)の空間上の積分を含む式で与えられ、n_iおよびガンマ関数に依存する係数が付随する。
• 対称テンソルの場合、積分領域がはるかに小さくなるため、Mathematicaを用いた正確な数値評価が可能となり、p=4, n=4のとき9.3951のような高精度の推定値が得られる。
• 2×2×2の場合、実臨界点の平均数は約4.287であり、複素数のカウント6より顕著に小さい。
• 2×2×k形式では、k≥4の範囲で平均数が約5.5～5.6に安定化し、複素数の場合に見られない飽和効果が示唆される。
• テンソルサイズが大きくなるにつれて平均数は急激に増加する：2×2×10では約1.843×10^4に達し、複素数のカウント3,628,800をはるかに上回る。
• 結果から、実臨界点の数は安定化せず、引き続き増加し続けることが示唆され、境界形式を超えて複素数のカウントが安定化するのとは対照的である。