[論文レビュー] Improved Approximation Guarantees for Sublinear-Time Fourier Algorithms

Mark Iwen|arXiv (Cornell University)|Sep 30, 2010

Sparse and Compressive Sensing Techniques被引用数 6

ひとこと要約

本稿では、高次元におけるスパースフーリエ変換に対して、より良い近似保証を達成する改善された部分線形時間フーリエアルゴリズムを提示する。先行研究のスパースフーリエ変換手法を変更し、RIPに基づく回復と確率的サンプリングを活用することで、実行時間 $ O(k^2 D^4) $ で $ l^2, l^1/√k $ の誤差バインディングを達成し、$ k $ が増加するに従い誤差の増大を著しく抑制する。

ABSTRACT

In this paper modified variants of the sparse Fourier transform algorithms from [14] are presented which improve on the approximation error bounds of the original algorithms. In addition, simple methods for extending the improved sparse Fourier transforms to higher dimensional settings are developed. As a consequence, approximate Fourier transforms are obtained which will identify a near-optimal k-term Fourier series for any given input function, $f : [0, 2 pi] -> C, in O(k^2 \cdot D^4)$ time (neglecting logarithmic factors). Faster randomized Fourier algorithm variants with runtime complexities that scale linearly in the sparsity parameter k are also presented.

研究の動機と目的

• バンドリミテッド関数 $ f: [0,2\tau]^D \to \mathbb{C} $ の $ k $ 項三角近似を、近似的に最適な回復を保証するフーリエ近似アルゴリズムを開発すること。
• 特に $ \sqrt{k} \|\hat{f} - \hat{f}^{\rm opt}_k\|_1 $ 項を $ k $ 倍小さくすることで、先行研究の近似誤差バインディングを改善すること。
• 次元 $ D $ における指数的スケーリングを回避しつつ、部分線形時間 $ N^D $ で高次元に拡張可能なスパースフーリエ変換技術を拡張すること。
• より少ない関数評価回数と低い実行時間複雑性で、同程度の誤差保証を達成する高速化された確率的バージョンを設計すること。
• 関数 $ f $ に対して事前の滑らかさの仮定を必要とせず、一般のバンドリミテッド関数に適用可能であることを保証すること。

提案手法

• 先行研究のスパースフーリエ変換フレームワーク [14] を変更し、$ \sqrt{k} \|\hat{f} - \hat{f}^{\rm opt}_k\|_1 $ 誤差項を $ k $ 倍小さくすることで、$ l^2, l^1/\sqrt{k} $ のインスタンス最適誤差バインディングを達成する。
• 中国剰余定理に基づく一対一写像 $ g $ を用いて、$ D $ 次元フーリエドメインを 1 次元ドメインに埋め込み、1 次元スパースフーリエ手法の適用を可能にする。
• 制限等長性性質（RIP）を満たす測定行列 $ \mathcal{R}_{\lambda, \tilde{S}} $ を用いて、サンプリングと実行時間の複雑性を低減する。
• 3段階のアルゴリズムを構築する：(i) $ f $ を新たな関数 $ f_{\rm new} $ に暗黙的に写像する、(ii) $ \hat{f}_{\rm new} $ に 1 次元スパースフーリエ変換を適用する、(iii) $ g^{-1} $ を用いて結果を元の $ D $ 次元ドメインに戻す。
• 圧縮センシングとRIP行列の結果を活用し、高い確率でスパースフーリエ係数の安定回復を保証する。
• 実行時間の最適化のため、決定的バージョンでは $ O(k^2 D^4 \log^4(MD)/\epsilon^2) $ のサンプル数を、確率的バージョンでは $ O(k D^4 / \epsilon \cdot \log^3(MD) \cdot \log(MD/(1-\sigma))) $ のサンプル数を、成功確率 $ \sigma \in [2/3,1] $ で使用する。

実験結果

リサーチクエスチョン

• RQ1 部分線形時間フーリエアルゴリズムの近似誤差は、$ k $ が増加するに従い劣化を避けるように改善可能か？
• RQ2 先行手法における $ \sqrt{k} \|\hat{f} - \hat{f}^{\rm opt}_k\|_1 $ 誤差項を、$ \|\hat{f} - \hat{f}^{\rm opt}_k\|_2 + \|\hat{f} - \hat{f}^{\rm opt}_{k/\epsilon}\|_1 / \sqrt{k} $ に低減でき、$ k $ が増加するに従い誤差が単調に改善されるか？
• RQ3 高次元フーリエ近似でインスタンス最適誤差バインディングを達成するために必要な最小の関数評価回数は何か？
• RQ4 確率的サンプリング戦略は、決定的RIPベース手法と同等の誤差保証を達成しつつ、著しく低い実行時間とサンプリング複雑性を達成可能か？
• RQ5 フーリエドメインの次元をどのように低減または変換すれば、$ D $ 次元設定において1次元スパースフーリエアルゴリズムの効率的適用が可能になるか？

主な発見

• 提案アルゴリズムは、$ l^2, l^1/\sqrt{k} $ のインスタンス最適誤差バインディングを達成し、先行研究の誤差項 $ \sqrt{k} \|\hat{f} - \hat{f}^{\rm opt}_k\|_1 $ を $ k $ 倍小さくすることで、$ k $ が増加するに従い誤差が減少することを保証する。
• 決定的バージョンでは、実行時間とサンプリング複雑性が $ O(k^2 D^4 \log^4(MD) / \epsilon^2) $ であり、$ D $ に対して多項式スケーリングされ、指数的爆発を回避する。
• 確率的バージョンでは、同じ誤差保証を $ O(k D^4 / \epsilon \cdot \log^3(MD) \cdot \log(MD/(1-\sigma))) $ の実行時間とサンプリング複雑性で達成でき、$ k $ に対して線形スケーリングを実現する。
• アルゴリズムは、高い確率で近似的に最適な $ k $ 項フーリエ近似 $ \hat{y}_k $ を回復でき、$ \|\hat{f} - \hat{y}_k\|_2 \leq \|\hat{f} - \hat{f}^{\rm opt}_k\|_2 + 22\epsilon \|\hat{f} - \hat{f}^{\rm opt}_{k/\epsilon}\|_1 / \sqrt{k} $ を満たす。
• この手法は、コサイン基底やチェビシェフ基底におけるスパース表現を持つ関数にも適用可能であり、フーリエ変換を超えた有用性を拡張する。
• このアプローチは $ D $ に指数的依存を回避し、$ k = M^{o(D)} $ の場合に部分線形時間回復が可能であるのに対し、標準的なFFTは $ \Omega(M^D) $ 時間を要する。