[论文解读] Distributed Source Coding of Correlated Gaussian Sources

Yasutada Oohama|arXiv (Cornell University)|Jul 26, 2010

Wireless Communication Security Techniques参考文献 21被引用 11

一句话总结

本文研究了 L 个相关高斯源的分布式源编码问题，这些源是 K 个远端高斯源的噪声观测，建模为 Y^L = A X^K + N^L。针对三种失真准则——失真矩阵、向量失真和总失真——通过正定规划和注水解法推导了码率失真区域的显式内界和外界。主要贡献在于在特定条件下，内界与外界完全匹配，从而在 CEO 问题和多终端源编码方面优于先前结果。

ABSTRACT

We consider the distributed source coding system of $L$ correlated Gaussian sources $Y_i,i=1,2,...,L$ which are noisy observations of correlated Gaussian remote sources $X_k, k=1,2,...,K$. We assume that $Y^{L}={}^{ m t}(Y_1,Y_2,$ $..., Y_L)$ is an observation of the source vector $X^K={}^{ m t}(X_1,X_2,..., X_K)$, having the form $Y^L=AX^K+N^L$, where $A$ is a $L imes K$ matrix and $N^L={}^{ m t}(N_1,N_2,...,N_L)$ is a vector of $L$ independent Gaussian random variables also independent of $X^K$. In this system $L$ correlated Gaussian observations are separately compressed by $L$ encoders and sent to the information processing center. We study the remote source coding problem where the decoder at the center attempts to reconstruct the remote source $X^K$. We consider three distortion criteria based on the covariance matrix of the estimation error on $X^K$. For each of those three criteria we derive explicit inner and outer bounds of the rate distortion region. Next, in the case of $K=L$ and $A=I_L$, we study the multiterminal source coding problem where the decoder wishes to reconstruct the observation $Y^L=X^L+N^L$. To investigate this problem we shall establish a result which provides a strong connection between the remote source coding problem and the multiterminal source coding problem. Using this result, we drive several new partial solutions to the multiterminal source coding problem.

研究动机与目标

• 分析 L 个相关高斯观测分别压缩以重构底层 K 个远端高斯源的远程源编码问题。
• 基于估计误差协方差矩阵，建立三种不同失真准则下的码率失真区域的显式内界和外界。
• 通过理论桥梁将远程源编码问题与多终端源编码问题联系起来，从而实现新的部分解。
• 通过推导更紧致的阈值，改进文献中已有的界，特别是针对二次高斯 CEO 问题和总失真准则。

提出的方法

• 将系统建模为 Y^L = A X^K + N^L，其中 X^K 为远端源，Y^L 为噪声观测，N^L 为独立的高斯噪声。
• 应用正定规划（SDP）推导在失真矩阵准则下码率失真区域的显式内界和外界。
• 利用一个关键理论结果，将远程源编码与多终端源编码联系起来，当 K = L 且 A = I_L 时，将界推广至多终端情形。
• 为总失真准则推导一种注水型外界，使在特定条件下可实现显式表征。
• 运用熵幂不等式和马尔可夫链论证来界定推导过程中条件熵项的上下界。
• 通过迭代应用熵不等式，对辅助随机变量的条件熵进行下界估计，这对推导紧致界至关重要。

实验结果

研究问题

• RQ1 在具有噪声观测的相关高斯源分布式源编码中，码率失真区域的最紧致内界和外界是什么？
• RQ2 所推导的界与现有结果相比如何，特别是在二次高斯 CEO 问题这一特例中？
• RQ3 在何种条件下，总失真准则下的内界与外界完全匹配，这对最优总码率有何含义？
• RQ4 能否在远程源编码问题与多终端源编码问题之间建立理论联系，以实现新的解决方案？
• RQ5 新推导的最优性阈值相较于文献中先前结果有何改进？

主要发现

• 对于失真矩阵准则，本文基于协方差矩阵上的正定规划，推导出显式的内界和外界。
• 对于向量失真准则，当 K = L 且 A = I_L 时，外界推广并改进了 Oohama 的早期结果。
• 对于总失真准则，推导出一种注水型外界，其紧致性优于先前方法。
• 当指定的失真水平 D 低于某一阈值时，总失真准则下的内界与外界完全匹配，表明编码方案达到最优。
• 识别出两个不同的最优性阈值：第一个优于 Oohama 的阈值，第二个在某些情况下进一步改进，尽管二者互不占优。
• 结果证实，Berger 和 Tung 提出的内界中的总码率部分在二次失真下对高斯源是最优的，扩展了 Wagner 等人的前期工作。