[论文解读] Fast Hankel Tensor-Vector Products and Application to Exponential Data Fitting

Weiyang Ding, Liqun Qi+1 more|arXiv (Cornell University)|Jan 24, 2014

Tensor decomposition and applications参考文献 17被引用 11

一句话总结

该论文提出了一种通过将Hankel张量嵌入更大的反循环张量并利用傅里叶矩阵对角化来实现Hankel张量-向量乘积的快速算法。该方法实现了𝒪((m+1)dₕ log dₕ)的计算复杂度，即使在存在噪声的情况下，也能实现高效且高精度的一维和二维指数数据拟合。

ABSTRACT

This paper is contributed to a fast algorithm for Hankel tensor-vector products. For this purpose, we first discuss a special class of Hankel tensors that can be diagonalized by the Fourier matrix, which is called \emph{anti-circulant} tensors. Then we obtain a fast algorithm for Hankel tensor-vector products by embedding a Hankel tensor into a larger anti-circulant tensor. The computational complexity is about $\mathcal{O}(m^2 n \log mn)$ for a square Hankel tensor of order $m$ and dimension $n$, and the numerical examples also show the efficiency of this scheme. Moreover, the block version for multi-level block Hankel tensors is discussed as well. Finally, we apply the fast algorithm to exponential data fitting and the block version to 2D exponential data fitting for higher performance.

研究动机与目标

• 解决Hankel张量-向量乘积缺乏高效算法的问题，该问题在信号处理和数据拟合中至关重要。
• 开发一种快速的Hankel张量运算计算方案，以降低直接方法带来的高计算成本。
• 利用基于张量的方法实现在一维和二维空间中的高性能指数数据拟合。
• 将快速算法扩展至块Hankel张量，以支持多维数据结构。
• 将快速张量-向量乘积集成到高阶奇异值分解（HOSVD）中，用于结构化张量逼近。

提出的方法

• 将Hankel张量嵌入更大的反循环张量，以利用其通过傅里叶矩阵实现对角化的特性。
• 利用反循环张量具有周期性生成向量且可通过傅里叶矩阵对角化的事实，实现快速乘法运算。
• 使用快速傅里叶变换（FFT）在𝒪((m+1)dₕ log dₕ)时间内计算张量-向量乘积，其中dₕ为Hankel张量的自由度。
• 将该快速算法应用于高阶正交迭代（HOOI）框架，以实现指数数据拟合中的低秩张量逼近。
• 通过在多级块结构张量上应用相同的嵌入与基于FFT的策略，将该方法扩展至块Hankel张量（BHHB）。
• 采用总体最小二乘法估计指数拟合中的极点，以考虑系统两侧的噪声影响。

实验结果

研究问题

• RQ1 Hankel张量-向量乘积能否比直接方法更高效地计算？
• RQ2 能否利用傅里叶矩阵对角化的反循环张量来加速Hankel张量运算？
• RQ3 所提出的快速张量-向量乘积算法的计算复杂度是多少？
• RQ4 该快速算法在存在噪声的一维和二维指数数据拟合中效果如何？
• RQ5 该快速算法的块版本能否在多维指数数据拟合中提升性能？

主要发现

• 所提出的快速Hankel张量-向量乘积算法实现了𝒪((m+1)dₕ log dₕ)的计算复杂度，显著降低了直接计算的成本。
• 该算法在1D指数数据拟合中表现有效，其中最佳秩-(2,2,2)逼近能以接近噪声水平的相对误差恢复极点。
• 在2D指数数据拟合中，该算法的块版本即使在加入噪声后，也能成功分离信号中的两个显著峰值。
• 数值实验表明，在无噪声情况下，所构建的BHHB张量的模式-1奇异值明显分为两个主导值，其余值接近机器精度。
• 在极点估计中使用总体最小二乘法可确保对噪声的鲁棒性，同时保持与噪声水平相当的精度。
• 该快速方案可无缝集成到任何涉及Hankel张量-向量乘积的算法中，以提升计算效率。