[论文解读] Democratic Representations

Christoph Studer, Tom Goldstein+2 more|arXiv (Cornell University)|Jan 15, 2014

Sparse and Compressive Sensing Techniques参考文献 41被引用 26

一句话总结

本文提出民主表征——一种通过在欠定系统中最小化 ℓ∞-范数并满足一致性约束而获得的信号表征。基于不确定性原理的分析表明，随机矩阵（如子采样傅里叶矩阵或 i.i.d. 高斯矩阵）可产生具有均匀小、相似幅值的表征，从而实现低动态范围和鲁棒性。其主要贡献是提出一种可证明高效的凸优化框架，用于计算此类表征，并在峰均功率比（PAPR）降低和鲁棒信号传输方面具有应用价值。

ABSTRACT

Minimization of the $\ell_{\infty}$ (or maximum) norm subject to a constraint that imposes consistency to an underdetermined system of linear equations finds use in a large number of practical applications, including vector quantization, approximate nearest neighbor search, peak-to-average power ratio (or "crest factor") reduction in communication systems, and peak force minimization in robotics and control. This paper analyzes the fundamental properties of signal representations obtained by solving such a convex optimization problem. We develop bounds on the maximum magnitude of such representations using the uncertainty principle (UP) introduced by Lyubarskii and Vershynin, and study the efficacy of $\ell_{\infty}$-norm-based dynamic range reduction. Our analysis shows that matrices satisfying the UP, such as randomly subsampled Fourier or i.i.d. Gaussian matrices, enable the computation of what we call democratic representations, whose entries all have small and similar magnitude, as well as low dynamic range. To compute democratic representations at low computational complexity, we present two new, efficient convex optimization algorithms. We finally demonstrate the efficacy of democratic representations for dynamic range reduction in a DVB-T2-based broadcast system.

研究动机与目标

• 分析在一致性约束下通过 ℓ∞-范数最小化获得的信号表征的基本特性。
• 利用不确定性原理（UP）建立此类表征最大幅值的理论界。
• 证明满足不确定性原理的矩阵（如子采样傅里叶矩阵或 i.i.d. 高斯矩阵）可实现具有低动态范围的民主表征。
• 开发两种高效的首阶凸优化算法，以低计算成本计算民主表征。
• 在实际应用中验证民主表征的有效性，特别是在 DVB-T2 广播系统中的动态范围降低方面。

提出的方法

• 将问题表述为在信号重建的 ℓ2-误差有界条件下最小化表征向量的 ℓ∞-范数：min ‖x̃‖∞ s.t. ‖y − Dx̃‖₂ ≤ ε。
• 应用 Lyubarskii 和 Vershynin 提出的不确定性原理（UP），推导出解中最大条目幅值的上界。
• 利用对偶性和拉格朗日松弛，推导出解的 ℓ2-范数的下界，将其与信号能量和框架界联系起来。
• 推导出表征的峰均功率比（PAPR）的上界：PAPR(x̃) ≤ K̃ᵤ²B，其中 B 为上框架界。
• 提出两种新型首阶优化算法，用于高效计算民主表征，利用邻近梯度和分裂方法。
• 在基于 DVB-T2 的广播系统中验证该方法，结果表明与 ℓ₂ 和 ℓ₁ 表征相比，PAPR 显著降低。

实验结果

研究问题

• RQ1 在一致性约束下通过 ℓ∞-范数最小化获得的信号表征具有哪些基本特性？
• RQ2 如何利用不确定性原理来界定此类表征中条目最大幅值的上界？
• RQ3 哪些矩阵结构（如子采样傅里叶矩阵、i.i.d. 高斯矩阵）可实现具有低动态范围的民主表征？
• RQ4 与 ℓ₂ 和 ℓ₁ 范数相比，基于 ℓ∞-范数的表征可实现多大的 PAPR 降低？
• RQ5 能否设计出计算复杂度低的高效首阶优化算法，以计算民主表征？

主要发现

• 满足不确定性原理的矩阵（如随机子采样傅里叶矩阵或 i.i.d. 高斯矩阵）可实现民主表征，其中所有条目均具有小且相近的幅值。
• 民主表征中条目的最大幅值被限制在 O(1/√N) 量级，确保条目重要性均匀且动态范围低。
• 表征的峰均功率比（PAPR）上界为 K̃ᵤ²B，其中 B 为上框架界，K̃ᵤ 为与不确定性原理相关的常数。
• 在基于 DVB-T2 的系统中，ℓ∞-范数表征实现的 PAPR 为 11.1 dB，显著低于 ℓ₂ 表征的 16.2 dB 和 ℓ₁ 表征的 29.9 dB。
• 所提出的首阶优化算法可实现低计算复杂度的民主表征高效计算，适用于实时应用。
• 由于所有条目贡献相等，对量化和污染的鲁棒性得以增强，单个条目退化对误差的影响最小化。