[论文解读] Cascade multiterminal source coding

Paul Cuff, Han-I Su+1 more|ArXiv.org|May 12, 2009

Wireless Communication Security Techniques参考文献 17被引用 4

一句话总结

本文研究级联多终端源编码，其中两个相关源 X 和 Y 依序编码：编码器 1 向编码器 2 发送一个速率受限的消息，随后编码器 2 联合编码 Y 和接收到的消息，向解码器发送第二个消息。关键贡献在于对丢失和无损失函数计算的速率区域进行了紧致表征，内界与外界界之间在高斯和估计中存在 1 位的差距，并基于源方差在中继与重压缩之间选择策略的阈值机制。

ABSTRACT

We investigate distributed source coding of two correlated sources X and Y where messages are passed to a decoder in a cascade fashion. The encoder of X sends a message at rate R_1 to the encoder of Y. The encoder of Y then sends a message to the decoder at rate R_2 based both on Y and on the message it received about X. The decoder's task is to estimate a function of X and Y. For example, we consider the minimum mean squared-error distortion when encoding the sum of jointly Gaussian random variables under these constraints. We also characterize the rates needed to reconstruct a function of X and Y losslessly. Our general contribution toward understanding the limits of the cascade multiterminal source coding network is in the form of inner and outer bounds on the achievable rate region for satisfying a distortion constraint for an arbitrary distortion function d(x,y,z). The inner bound makes use of a balance between two encoding tactics--relaying the information about X and recompressing the information about X jointly with Y. In the Gaussian case, a threshold is discovered for identifying which of the two extreme strategies optimizes the inner bound. Relaying outperforms recompressing the sum at the relay for some rate pairs if the variance of X is greater than the variance of Y.

研究动机与目标

• 表征具有级联通信结构的分布式源编码的可实现速率区域，其中两个相关源 X 和 Y 依序编码。
• 在失真约束下，确定估计函数 f(X,Y) 所需的最小速率 R1 和 R2。
• 研究级联网络中的无损失函数计算，识别内界与外界界紧致的条件。
• 分析联合高斯源的和速率-失真函数，推导分段的上下界。
• 基于源方差和相关性，识别最优编码策略——中继或在编码器 2 处联合重压缩。

提出的方法

• 提出一种混合编码策略的内界，平衡向编码器 2 传输 X 的信息与在编码器 2 处联合重压缩 X 和 Y 的信息。
• 利用信息论不等式（包括马尔可夫约束和涉及辅助随机变量 U 和 V 的互信息项）推导外界界。
• 将该界应用于平方误差失真下的高斯和估计问题，使用条件熵和基于方差的表达式。
• 在级联网络中使用 Wyner-Ziv 编码进行函数 f(X,Y) 的有失真压缩，利用条件熵和图熵概念。
• 当联合分布满足如 X-Y-Z 或 Y-X-Z 的马尔可夫链时，证明无损失函数计算的界是紧致的。
• 应用马尔可夫协调技术，在联合分布具有特定结构假设下证明可实现性与界紧致性。

实验结果

研究问题

• RQ1 在具有两个编码器和一个解码器的级联多终端源编码网络中，估计函数 f(X,Y) 的最优速率区域是什么？
• RQ2 在平方误差失真下，估计联合高斯随机变量的和时，速率 R1 和 R2 如何权衡？
• RQ3 在级联网络中，无损失函数计算的内界在何种条件下是紧致的？
• RQ4 什么决定了最优策略——向编码器 2 中继关于 X 的消息，还是在编码器 2 处联合重压缩 X 和 Y —— 以最小化失真？
• RQ5 在高斯和估计问题中，X 的方差相对于 Y 如何影响在中继与重压缩之间的选择？

主要发现

• 对于联合高斯源，和速率-失真函数的内界与外界界之间的差距最多为 1 比特，且随失真 D 增大而缩小。
• 在估计联合高斯源的和时，最优策略根据阈值在中继与重压缩之间切换：当 Var(X) > Var(Y) 时，中继优于重压缩。
• 在无损失函数计算情况下，当联合分布满足如 X-Y-Z 或 Y-X-Z 的马尔可夫链时，内界与外界界是紧致的。
• 无损失计算 f(X,Y) 的最优速率通过从编码器 1 到编码器 2 的 Wyner-Ziv 编码实现，随后在编码器 2 处对函数值进行熵限压缩。
• 对于相关性为 p 的二元对称源，所需速率为 R1 ≥ h(p) 且 R2 ≥ h(p)，与标准多终端源编码速率一致。
• 高斯和估计的和速率上界为分段形式：在低失真区域使用涉及 P_X+Y 和 D 的对数表达式，在高失真区域使用更简单的对数项。