[论文解读] Generalized Gaussian Multiterminal Source Coding: The Symmetric Case

Jun Chen, Li Xie+3 more|arXiv (Cornell University)|Oct 12, 2017

Wireless Communication Security Techniques参考文献 10被引用 5

一句话总结

本文研究对称广义高斯多终端源编码，其中 ℓ 个源和每个编码器观测大小为 m 的子集。结果表明，当 ρ ≤ 0，或当 ρ > 0 且低于某一阈值时，最优率失真性能与集中式情况一致，这意味着在这些条件下，通过共享观测子集实现的协作可达到与完全集中化相同的压缩效率。

ABSTRACT

Consider a generalized multiterminal source coding system, where $\ell\choose m$ encoders, each observing a distinct size-$m$ subset of $\ell$ ($\ell\geq 2$) zero-mean unit-variance symmetrically correlated Gaussian sources with correlation coefficient $ρ$, compress their observations in such a way that a joint decoder can reconstruct the sources within a prescribed mean squared error distortion based on the compressed data. The optimal rate-distortion performance of this system was previously known only for the two extreme cases $m=\ell$ (the centralized case) and $m=1$ (the distributed case), and except when $ρ=0$, the centralized system can achieve strictly lower compression rates than the distributed system under all non-trivial distortion constraints. Somewhat surprisingly, it is established in the present paper that the optimal rate-distortion performance of the afore-described generalized multiterminal source coding system with $m\geq 2$ coincides with that of the centralized system for all distortions when $ρ\leq 0$ and for distortions below an explicit positive threshold (depending on $m$) when $ρ>0$. Moreover, when $ρ>0$, the minimum achievable rate of generalized multiterminal source coding subject to an arbitrary positive distortion constraint $d$ is shown to be within a finite gap (depending on $m$ and $d$) from its centralized counterpart in the large $\ell$ limit except for possibly the critical distortion $d=1-ρ$.

研究动机与目标

• 表征对称广义多终端源编码系统中最优率失真权衡，该系统包含 ℓ 个均值为零、方差为 1 的高斯源，相关系数为 ρ。
• 研究编码器之间的协作（由子集大小 m 控制）对压缩效率的影响，相对于集中式与分布式编码。
• 确定广义系统与集中式系统率失真性能匹配的条件。
• 在 ρ > 0 的大-ℓ 渐近情形下，建立广义系统与集中式系统之间的有限速率差距，除非在 d = 1 − ρ 处。
• 解决长期悬而未决的公开问题：当 1 < m < ℓ 时，对称情形下的率失真函数。

提出的方法

• 采用对称高斯源模型，相关系数为 ρ，通过反向注水法定义率失真区域。
• 利用高斯估计框架推导最优性的充分条件，其中联合解码器通过最小均方误差估计重构源信号。
• 引入以 ℓ 个源中所有大小为 m 的子集 S 索引的辅助随机变量 U⁺_S(γ)，以建模压缩观测值。
• 通过建立估计误差与辅助变量之间的正交性条件，证明所提方案的最优性。
• 使用迹失真约束，并通过显式计算涉及 X_i、U⁺_S(γ) 和噪声项 N⁺_S 的期望，求得每个源的均方误差。
• 在大-ℓ 极限下分析渐近行为，以界定 ρ > 0 时广义系统与集中式系统之间的差距。

实验结果

研究问题

• RQ1 在 m ≥ 2 的广义多终端源编码系统中，何种条件下可实现与集中式系统相同的率失真性能？
• RQ2 相关系数 ρ 如何影响广义编码与集中式编码在可实现速率方面的等价性？
• RQ3 在 ρ > 0 的大-ℓ 渐近情形下，广义系统与集中式系统之间最优速率的有限差距是多少？
• RQ4 当 ρ ≤ 0 时，广义系统的性能是否可在所有失真水平下匹配集中式系统？
• RQ5 临界失真 d = 1 − ρ 是什么？为何它在渐近分析中是例外？

主要发现

• 当 ρ ≤ 0 时，对于所有失真水平，广义多终端系统（m ≥ 2）的最优率失真性能与集中式系统完全相同。
• 当 ρ > 0 时，广义系统在低于某一显式依赖于 m 和 ρ 的阈值的所有失真水平下，可实现与集中式系统相同的率失真性能。
• 当 ρ > 0 时，在大-ℓ 渐近极限下，广义系统的最小可实现速率与集中式速率之间存在有限差距（该差距依赖于 m 和 d），除非在临界失真 d = 1 − ρ 处。
• 对于 m ≥ 2，广义对称系统的率失真函数被完全表征，解决了文献中长期悬而未决的公开问题。
• 通过估计框架中引入的新正交性条件，建立了当 ρ ≤ 0 或 ρ > 0 且失真较低时，广义系统与集中式系统之间的等价性。
• 分析结果确认，通过共享观测子集（m ≥ 2）实现的编码器协作，可在某些相关性范围内完全消除分布式压缩的速率损失。