[论文解读] Compressive Sensing Over Networks

Soheil Feizi, Muriel Médard+1 more|arXiv (Cornell University)|Dec 4, 2010

Cooperative Communication and Network Coding被引用 7

一句话总结

本文提出了稀疏分布式压缩与稀疏信道编码——两种新颖的方案，利用压缩感知在联网源编码与信道编码中权衡压缩速率或容量损失与解码复杂度。通过使用凸优化进行信号恢复，而非高复杂度的最优解码器，该方法实现了高效、模块化的解码，并在相关源与高信噪比高斯信道场景下，提供了压缩速率、容量与计算成本之间的可证明权衡。

ABSTRACT

In this paper, we demonstrate some applications of compressive sensing over networks. We make a connection between compressive sensing and traditional information theoretic techniques in source coding and channel coding. Our results provide an explicit trade-off between the rate and the decoding complexity. The key difference of compressive sensing and traditional information theoretic approaches is at their decoding side. Although optimal decoders to recover the original signal, compressed by source coding have high complexity, the compressive sensing decoder is a linear or convex optimization. First, we investigate applications of compressive sensing on distributed compression of correlated sources. Here, by using compressive sensing, we propose a compression scheme for a family of correlated sources with a modularized decoder, providing a trade-off between the compression rate and the decoding complexity. We call this scheme Sparse Distributed Compression. We use this compression scheme for a general multicast network with correlated sources. Here, we first decode some of the sources by a network decoding technique and then, we use a compressive sensing decoder to obtain the whole sources. Then, we investigate applications of compressive sensing on channel coding. We propose a coding scheme that combines compressive sensing and random channel coding for a high-SNR point-to-point Gaussian channel. We call this scheme Sparse Channel Coding. We propose a modularized decoder providing a trade-off between the capacity loss and the decoding complexity. At the receiver side, first, we use a compressive sensing decoder on a noisy signal to obtain a noisy estimate of the original signal and then, we apply a traditional channel coding decoder to find the original signal.

研究动机与目标

• 将压缩感知与传统信息论在联网系统中的源编码与信道编码中相融合。
• 通过用低复杂度的压缩感知解码器替代高复杂度的最优源编码方案，解决其高解码复杂度问题。
• 在相关源的分布式压缩中，提供压缩速率与解码复杂度之间的显式权衡。
• 为多播网络设计一种模块化解码器，结合网络编码与压缩感知，实现对相关源的高效恢复。
• 在高信噪比高斯信道中，通过两阶段解码过程，实现容量损失与解码复杂度之间的权衡。

提出的方法

• 提出稀疏分布式压缩方案，利用压缩感知对相关源进行编码，实现可调节复杂度的模块化解码。
• 采用两阶段解码过程：首先应用压缩感知解码器恢复稀疏信号的噪声估计，然后在非零支撑上使用传统信道解码器。
• 利用随机矩阵理论与限制等距性质（RIP）确保从子-N测量中稳定恢复稀疏信号。
• 采用线性规划公式最小化信号的L1范数，作为稀疏恢复问题的凸松弛。
• 提出一种网络编码框架，先进行部分源解码，再通过压缩感知恢复全部相关源。
• 利用随机编码论证与高斯近似推导误差概率边界，量化信噪比、稀疏性与测量速率下的性能表现。

实验结果

研究问题

• RQ1 能否利用压缩感知在保持速率效率的同时，降低相关源分布式源编码中的解码复杂度？
• RQ2 在具有相关源的多播网络中，压缩速率与解码复杂度之间的权衡是什么？
• RQ3 如何将压缩感知与随机信道编码结合，以降低高信噪比高斯信道中的解码复杂度？
• RQ4 结合压缩感知与信道解码的两阶段解码器能否实现容量损失与计算复杂度之间的权衡？
• RQ5 此类混合方案在误码概率与信噪比方面的性能边界可推导出哪些结果？

主要发现

• 稀疏分布式压缩支持模块化解码器，为相关源提供可调节的压缩速率与解码复杂度之间的权衡。
• 该方案通过结合网络编码与压缩感知，在多播网络中可靠恢复相关源，相比最优方案显著降低了解码复杂度。
• 稀疏信道编码引入两阶段接收机：首先使用压缩感知解码器估计稀疏信号，然后在非零坐标上应用传统信道解码器。
• 该方法实现了容量损失与解码复杂度之间的权衡，更高的容量损失可显著降低解码复杂度。
• 误差概率边界表明，在足够高的信噪比与适当的测量速率下，误码概率呈指数衰减，从而实现可靠通信。
• 理论分析证实，所提方案在保持实际解码复杂度的同时，性能接近信息论极限。