[论文解读] Nearly Optimal Sparse Fourier Transform

Haitham Hassanieh, Piotr Indyk+2 more|arXiv (Cornell University)|Jan 12, 2012

Sparse and Compressive Sensing Techniques参考文献 16被引用 27

一句话总结

本文提出了首个用于稀疏傅里叶变换的亚线性时间算法，对精确k-稀疏信号实现O(k log n)时间复杂度，对一般信号实现O(k log n log(n/k))时间复杂度，两者均优于O(n log n)的快速傅里叶变换（FFT）在任意k = o(n)情况下的性能。这些算法为随机化算法，样本复杂度接近最优，并在假设FFT对稠密DFT最优的前提下达到最优。

ABSTRACT

We consider the problem of computing the k-sparse approximation to the discrete Fourier transform of an n-dimensional signal. We show: * An O(k log n)-time randomized algorithm for the case where the input signal has at most k non-zero Fourier coefficients, and * An O(k log n log(n/k))-time randomized algorithm for general input signals. Both algorithms achieve o(n log n) time, and thus improve over the Fast Fourier Transform, for any k = o(n). They are the first known algorithms that satisfy this property. Also, if one assumes that the Fast Fourier Transform is optimal, the algorithm for the exactly k-sparse case is optimal for any k = n^{Ω(1)}. We complement our algorithmic results by showing that any algorithm for computing the sparse Fourier transform of a general signal must use at least Ω(k log(n/k)/ log log n) signal samples, even if it is allowed to perform adaptive sampling.

研究动机与目标

• 开发用于计算DFT的k-稀疏近似值的亚线性时间算法，优于稀疏信号下的O(n log n)快速傅里叶变换（FFT）。
• 实现对任意k = o(n)均为o(n log n)的运行时间，解决稀疏傅里叶变换研究中长期存在的开放问题。
• 设计具有较低常数因子和实际效率的算法，在实验评估中优于先前方法。
• 在假设FFT对稠密DFT最优的前提下，建立样本复杂度和算法最优性的紧致理论边界。
• 提供一个兼具理论最优性和实际高效性的框架，具有扩展至非2的幂次信号长度及其他变换的潜力。

提出的方法

• 针对精确k-稀疏情况的算法采用基于结构化采样和混叠的随机化方法，在O(k log n)时间内识别出k个最大的傅里叶系数。
• 对于一般信号，算法采用多级滤波与聚类策略，以分离显著的频率分量，实现O(k log n log(n/k))的运行时间。
• 利用通过正态分布累积分布函数构造的平顶窗函数，确保受控的频谱泄漏和频率分辨率。
• 该方法结合随机移位与低通滤波，将高频分量映射至基带，从而在缩减的采样集上通过FFT实现高效恢复。
• 算法依赖于对傅里叶域能量集中性的新颖分析，以界定所需样本数并确保ℓ2/ℓ2近似保证。
• 引入窗函数的快速评估方案，实现每个频率索引O(log(1/δ))的时间复杂度，从而高效计算滤波后的信号。

实验结果

研究问题

• RQ1 能否设计出在精确k-稀疏信号下实现O(k log n)时间复杂度的稀疏傅里叶变换算法，使运行时间优于任意k = o(n)情况下的FFT？
• RQ2 能否为一般信号设计出亚线性时间算法，使其在所有k = o(n)下运行时间均为o(n log n)？
• RQ3 计算DFT的k-稀疏近似所需信号样本数的信息论下限是多少？
• RQ4 能否使算法变为确定性，或在不牺牲运行时间效率的前提下降低其失败概率？
• RQ5 一般信号的O(k log n log(n/k))时间复杂度是否最优，或可进一步通过对数因子优化？

主要发现

• 本文提出了一种O(k log n)时间复杂度的随机化算法用于精确k-稀疏情况，是首个在任意k = o(n)下实现o(n log n)时间复杂度的算法。
• 对于一般信号，算法运行时间为O(k log n log(n/k))，在n上为亚线性，且优于所有k = o(n)情况下的FFT。
• 在假设快速傅里叶变换（FFT）对稠密DFT最优的前提下，该算法达到最优，其中k-稀疏算法在k = n^Ω(1)时达到最优。
• 论文建立了在自适应采样下所需信号样本数的下限为Ω(k log(n/k)/log log n)，表明该算法几乎达到样本最优。
• k-稀疏算法的初步实现版本在n = 2^22且k ≤ 2^17时优于FFTW（一个高度优化的FFT库），而先前算法仅在k ≤ 2000时优于FFTW。
• 该算法在常数近似因子下实现ℓ2/ℓ2近似保证，且以常数概率成功，可通过在运行时间中引入对数因子进行概率放大。