[論文レビュー] Computing Eigenvalues of Large Scale Hankel Tensors

Yannan Chen, Liqun Qi+1 more|arXiv (Cornell University)|Apr 28, 2015

Tensor decomposition and applications参考文献 46被引用数 5

ひとこと要約

本稿では、高速フーリエ変換（FFT）とカーリー変換を用いて、単位球面上での効率的な最適化を可能にする、大規模なハンケルテンソルのZ-およびH固有値を計算する不正確な曲線探索アルゴリズム（ACSA-Hankel）を提案する。この手法は1反復あたりO(mn log(mn))の計算複雑度を達成し、Kurdyka-Łojasiewicz性質を用いた線形収束を示し、標準的なデスクトップコンピュータ上でも次元が100万に達するテンソルの固有値を効率的に計算できる。

ABSTRACT

Large scale tensors, including large scale Hankel tensors, have many applications in science and engineering. In this paper, we propose an inexact curvilinear search optimization method to compute Z- and H-eigenvalues of $m$th order $n$ dimensional Hankel tensors, where $n$ is large. Owing to the fast Fourier transform, the computational cost of each iteration of the new method is about $\mathcal{O}(mn\log(mn))$. Using the Cayley transform, we obtain an effective curvilinear search scheme. Then, we show that every limiting point of iterates generated by the new algorithm is an eigen-pair of Hankel tensors. Without the assumption of a second-order sufficient condition, we analyze the linear convergence rate of iterate sequence by the Kurdyka-Łojasiewicz property. Finally, numerical experiments for Hankel tensors, whose dimension may up to one million, are reported to show the efficiency of the proposed curvilinear search method.

研究の動機と目的

• 信号処理、制御理論、画像処理などで一般的な大規模なハンケルテンソルのZ-およびH固有値を効率的に計算するアルゴリズムの開発。
• 次元が100万に達するテンソルに対し、標準的な固有値ソルバーでは計算が非現実的となる課題の克服。
• ハンケル構造と高速フーリエ変換（FFT）を活用して、1反復あたりのコストをO(mn log(mn))に低減。
• 2次十分条件を必要としない条件下で、グローバル収束性と線形収束速度の確立。
• 高次元ハンケルテンソルにおける数値実験を通じたスケーラビリティと効率性の実証。

提案手法

• 探索方向を単位球面上への勾配射影によって計算する不正確な曲線探索最適化手法を提案。
• カーリー変換を用いて、単位球面上での妥当性を保ちつつ効果的な曲線探索スキームを構築。
• 高速フーリエ変換（FFT）を活用して、テンソル-ベクトル積を効率的に計算し、1反復あたりのコストをO(mn log(mn))に削減。
• 制約付き最適化問題として定式化され、目的関数はテンソルに関連する同次多項式である。
• 制約を扱うために二次ペナルティの再定式化が用いられ、計算効率を向上させるために不正確ラインサーチを導入。
• 収束解析は、2次十分条件を必要とせず、反復列の線形収束を保証するKurdyka-Łojasiewicz（KŁ）性質を用いて実施。

実験結果

リサーチクエスチョン

• RQ1 次元が100万に達する大規模なハンケルテンソルのZ-およびH固有値を効率的に計算できる最適化手法を設計できるか？
• RQ2 FFTを用いてハンケル構造を活用することで、1反復あたりの計算コストをO(mn log(mn))に低減できるか？
• RQ3 カーリー変換を用いた提案された曲線探索手法が、固有ペアへのグローバル収束を保証するか？
• RQ4 2次十分条件よりも弱い仮定の下でも線形収束を確立できるか？
• RQ5 ヒルベルトテンソルの最大固有値に対する理論的上限値はどれほどタイトか？数値的にその近さを確認できるか？

主な発見

• 提案されたACSA-Hankelアルゴリズムは、次元が100万の4次ハンケルテンソルの最大Z固有値を約35分で効率的に計算できた。
• 次元が100万の6次ハンケルテンソルに対しても、計算に約55分を要し、標準的なデスクトップハードウェア上でのスケーラビリティを示した。
• ヴァンデルモンドテンソルの最大Z固有値は、命題1で提示された理論的上限値と一致し、アルゴリズムの正しさを裏付けた。
• ヒルベルトテンソルの最大Z固有値に対する理論的上限値は、数値実験によりほぼタイトであることが判明し、定数倍の差異にとどまった。
• ヒルベルトテンソルの最大H固有値についても、理論的上限値に近く、アルゴリズムが高い精度を達成した。
• Kurdyka-Łojasiewicz性質により、2次十分条件を必要とせず反復列の線形収束を保証でき、収束解析の適用範囲を広げた。