[论文解读] Distributed Quantization for Measurement of Correlated Sparse Sources over Noisy Channels

Amirpasha Shirazinia, Saikat Chatterjee+1 more|arXiv (Cornell University)|Apr 30, 2014

Sparse and Compressive Sensing Techniques参考文献 33被引用 11

一句话总结

本文提出了一种针对相关稀疏源在噪声通道上的压缩感知测量的分布式向量量化（VQ）方案，通过迭代编码器-解码器设计优化端到端均方误差（MSE）的最小化。推导出一个复合下界，该下界可自适应于噪声压缩感知和抗噪量化两种情形，仿真结果表明其性能优于集中式和基线方案。

ABSTRACT

In this paper, we design and analyze distributed vector quantization (VQ) for compressed measurements of correlated sparse sources over noisy channels. Inspired by the framework of compressed sensing (CS) for acquiring compressed measurements of the sparse sources, we develop optimized quantization schemes that enable distributed encoding and transmission of CS measurements over noisy channels followed by joint decoding at a decoder. The optimality is addressed with respect to minimizing the sum of mean-square error (MSE) distortions between the sparse sources and their reconstruction vectors at the decoder. We propose a VQ encoder-decoder design via an iterative algorithm, and derive a lower-bound on the end-to-end MSE of the studied distributed system. Through several simulation studies, we evaluate the performance of the proposed distributed scheme.

研究动机与目标

• 为解决缺乏将分布式压缩、压缩感知与抗噪量化统一结合于相关稀疏源的框架问题。
• 为在噪声离散无记忆通道（DMCs）上传输的压缩测量设计一种抗噪向量量化方案。
• 最小化原始稀疏源与解码器端重建结果之间的均方误差（MSE）总和。
• 推导一个理论下界，以同时考虑压缩感知失真和通道噪声对端到端MSE性能的影响。
• 通过在不同相关性、压缩率和通道噪声水平下的仿真评估所提方案。

提出的方法

• 采用贝叶斯最小均方误差（MMSE）估计框架，联合优化相关稀疏源的编码器-解码器对。
• 采用迭代算法设计VQ编码器与解码器，以在噪声通道条件下最小化端到端MSE。
• 将系统建模为两个传感器通过压缩感知获取压缩测量，独立地使用VQ进行量化，并通过独立的DMCs进行传输。
• 通过结合两个理论极限（一个基于已知支持集的最优情况，另一个基于压缩感知失真）推导出MSE的复合下界，使其可自适应于有噪或无噪情形。
• 利用文献[12]中的高斯源编码率失真区域理论，对支持集上非稀疏高斯分量的失真进行上界约束。
• 应用解析积分技术，计算MMSE估计框架中的后验分布和似然函数。

实验结果

研究问题

• RQ1 在分布式、噪声通道环境下，如何对相关稀疏源的压缩感知测量进行向量量化优化？
• RQ2 此类分布式系统的端到端MSE性能理论极限（下界）是什么？
• RQ3 在不同相关性和通道噪声条件下，所提方案与集中式及非鲁棒方案相比表现如何？
• RQ4 能否推导出一个可自适应于压缩感知失真与通道噪声两种情形的复合下界？
• RQ5 支持集不确定性与通道噪声对分布式压缩感知系统可实现失真有何影响？

主要发现

• 所提出的迭代VQ设计在高相关性和中等噪声条件下，显著降低了端到端MSE，优于非优化或集中式方案。
• 通过结合基于最优支持集和基于压缩感知失真的极限所得到的复合MSE下界，在不同噪声环境下均提供了紧致的理论性能参考。
• 在极强噪声通道中，该下界理论上不可达，原因在于此分布式设置下源-信道分离定理不成立。
• 仿真结果表明，所提方案在高相关性和低噪声条件下，性能接近所推导的下界。
• 系统性能对相关性强度和量化率均敏感，在高压缩率时收益递减。
• 采用贝叶斯框架下的MMSE估计方法，即使在传输噪声和未知支持集条件下，也能实现鲁棒重建。