[论文解读] Application of the AAK theory for sparse approximation of exponential sums

Gerlind Plonka, Vlada Pototskaia|arXiv (Cornell University)|Sep 30, 2016

Mathematical Approximation and Integration参考文献 7被引用 5

一句话总结

本文提出了一种基于 Adamjan-Arov-KreÃn (AAK) 理论的新型算法，用于对以指数和形式表示的离散信号进行稀疏逼近。通过结合 Prony 方法进行初始参数恢复与基于 AAK 的优化，该方法在 $\ell^{1}$ 和 $\ell^{2}$ 范数下计算最小误差逼近，并通过奇异值实现最优低秩 Hankel 矩阵逼近，数值结果表明其性能与现有方法（如 Hackbusch 的基于 Remez 的方法）相比具有竞争力或更优。

ABSTRACT

In this paper, we derive a new method for optimal $\ell^{1}$- and $\ell^2$-approximation of discrete signals on ${\mathbb N}_{0}$ whose entries can be represented as an exponential sum of finite length. Our approach employs Prony's method in a first step to recover the exponential sum that is determined by the signal. In the second step we use the AAK-theory to derive an algorithm for computing a shorter exponential sum that approximates the original signal in the $\ell^{p}$-norm well. AAK-theory originally determines best approximations of bounded periodic functions in Hardy-subspaces. We rewrite these ideas for our purposes and give a proof of the used AAK theorem based only on basic tools from linear algebra and Fourier analysis. The new algorithm is tested numerically in different examples.

研究动机与目标

• 开发一种最优方法，对有限指数和形式的信号进行稀疏逼近，最小化 $\ell^{1}$ 和 $\ell^{2}$ 范数下的误差。
• 将 AAK 理论应用于由离散信号生成的无限 Hankel 矩阵的结构化低秩逼近。
• 提供一种构造性算法，用于计算能以保证最小误差逼近原始信号的更短指数和。
• 建立 AAK 理论与仅使用基本线性代数和傅里叶分析的指数和有限维逼近问题之间的联系。

提出的方法

• 首先，通过 APM2 方法应用 Prony 方法，从采样数据中恢复原始信号的参数。
• 从信号 $f_k = \sum_{j=1}^N a_j z_j^k$ 构造无限 Hankel 矩阵 ${\mathbf{\Gamma}}_{\mathbf{f}}$。
• 使用 AAK 理论确定 ${\mathbf{\Gamma}}_{\mathbf{f}}$ 在 $\ell^{p} \to \ell^{p}$ 算子范数下的最佳 $K$-秩逼近，误差由第 $K$ 个奇异值 $\sigma_K$ 限定。
• 从低秩 Hankel 矩阵重构逼近信号 $\tilde{f}_k = \sum_{j=1}^K \tilde{a}_j \tilde{z}_j^k$，确保 $\ell^p$-误差最优。
• 仅使用线性代数和傅里叶分析，提供该设定下 AAK 定理的自包含证明，避免使用高级算子理论。
• 数值实现该算法，并与现有方法（如 Hackbusch 的基于 Remez 的方法）对 $f(x) = 1/x$ 进行比较。

实验结果

研究问题

• RQ1 在给定 $\ell^p$-误差容差 $\epsilon$ 的条件下，表示一个给定信号所需的最少项数 $K$ 是多少？
• RQ2 如何计算 $K$-项逼近的最优参数 $\tilde{z}_j$ 和 $\tilde{a}_j$，以最小化 $\|{\mathbf{f}} - \tilde{{\mathbf{f}}}\|_p$？
• RQ3 AAK 理论能否被适配并以构造性方式证明适用于离散的、有限样本信号，以实现最优稀疏逼近？
• RQ4 与已建立的方法（如 Remez 算法）相比，AAK 基础算法在逼近误差和参数结构方面表现如何？

主要发现

• 对于 $M=100$ 个样本的 $f(x) = 1/x$，AAK 基础算法在 $n=10$ 项时达到 $\ell^2$-误差 $4.53 \times 10^{-8}$，优于 Hackbusch 方法的 $9.80 \times 10^{-8}$。
• AAK 基础方法的 $\ell^2$-误差与理论奇异值 $\sigma_n$ 密切吻合，证实了其最优性：例如，$\sigma_5 = 3.3233 \times 10^{-3}$，误差为 $3.2870 \times 10^{-3}$。
• 该算法产生稳定且结构化的参数：当 $n \geq 5$ 时，节点 $\tilde{z}_j$ 聚集在 1 附近，权重 $\tilde{a}_j$ 集中在前几项。
• 当 $n=10$ 时，AAK 基础逼近实现相对 $\ell^2$-误差 $4.53 \times 10^{-8}$，展示了在极少项数下仍具有高精度。
• 该方法通过 AAK 理论提供了一条构造性且数值稳定的最优 $\ell^p$-逼近路径，已在合成信号和真实世界信号上得到验证。