[论文解读] Source Coding for a Simple Network with Receiver Side Information

Roy Timo, Alex Grant+2 more|ArXiv.org|May 27, 2008

Wireless Communication Security Techniques参考文献 8被引用 4

一句话总结

本论文通过引入接收端信道侧信息，扩展了经典的Gray-Wyner信源编码模型，推导出可实现速率区域的内界与外界界。针对三种特殊情形——相同信源、退化网络与互补传输——证明了紧致的外界界，从而实现了对速率区域的精确刻画。

ABSTRACT

We consider the problem of source coding with receiver side information for the simple network proposed by R. Gray and A. Wyner in 1974. In this network, a transmitter must reliably transport the output of two correlated information sources to two receivers using three noiseless channels: a public channel which connects the transmitter to both receivers, and two private channels which connect the transmitter directly to each receiver. We extend Gray and Wyner's original problem by permitting side information to be present at each receiver. We derive inner and outer bounds for the achievable rate region and, for three special cases, we show that the outer bound is tight.

研究动机与目标

• 刻画具有接收端侧信息的两接收端网络的可实现速率区域。
• 通过引入接收端辅助随机变量，将原始仅适用于无侧信息相关信源的经典Gray-Wyner模型进行扩展。
• 利用信息论技术推导速率区域的一般内界与外界界。
• 识别并求解三种特殊情形（相同信源、退化网络、互补传输），其中外界界变为紧致。
• 在这些特殊情形下提供速率区域的完整刻画，给出精确的性能极限。

提出的方法

• 利用马尔可夫链结构与信息不等式（特别是条件互信息与熵项）推导可实现速率区域的外界界。
• 通过扩展Gray与Wyner原始的两描述方法，提出一种内界，引入辅助随机变量以建模侧信息。
• 采用随机编码与典型序列，结合联合典型性译码，分析三条信道（公共信道与两条私有信道）上的误码概率。
• 应用马尔可夫链条件 $W \to (X,Y) \to (U,V)$ 简化互信息表达式并推导界。
• 通过对具有有界基数的辅助随机变量 $A$ 和 $B$ 进行最小化，以参数形式表达内界。
• 在特殊情形下，通过证明外界界可通过所提编码方案实现，从而证明外界界与内界相等。

实验结果

研究问题

• RQ1 对于具有相关信源且两接收端均存在侧信息的两接收端网络，其可实现速率区域是什么？
• RQ2 接收端存在侧信息时，与原始Gray-Wyner模型相比，源数据在公共信道与私有信道间的最优分解方式有何变化？
• RQ3 在何种条件下所推导的外界界变为紧致？何时可对速率区域进行精确刻画？
• RQ4 Gray与Wyner的编码策略能否扩展以处理侧信息，同时在特定网络配置下保持最优性？
• RQ5 在相同信源、退化网络与互补传输等特殊情形下的性能极限是什么？

主要发现

• 当 $X = Y$ 时，可实现速率区域被精确刻画为辅助变量 $A$ 与 $B$ 定义的速率区域的闭包，其中基数约束为 $|\mathscr{A}| \leq |\mathscr{X}|+1$ 且 $|\mathscr{B}| \leq |\mathscr{X}|+1$。
• 在退化网络中，若 $Y = (X,Z)$ 且 $(X,Z) \to U \to V$ 构成马尔可夫链，则外界界为紧致，因此 $\mathscr{R} = \left(\bigcup_{p \in \mathscr{P}} \mathscr{R}_{\text{out}}^{(p)}\right)^c$。
• 在互补传输情形中，若 $U = Y$ 且 $V = X$，则外界界为紧致，速率区域被刻画为 $\mathscr{R} = \left(\bigcup_{p \in \mathscr{P}^{**}} \mathscr{R}^{(p)\text{**}}\right)^c$，其中 $|\mathscr{A}| \leq |\mathscr{X}||\mathscr{Y}|+1$ 且 $|\mathscr{B}| \leq |\mathscr{X}||\mathscr{Y}|+1$。
• 外界界通过信息不等式推导得出，并在三种不同的网络配置中被证明为紧致，从而提供了精确的性能极限。
• 内界通过改进的Gray-Wyner编码方案构建，引入辅助随机变量，误码概率分析证实了在所推导速率约束下的可靠性。
• 结果表明，接收端的侧信息从根本上改变了最优编码策略，公共信道不再仅用于传输公共信息，而必须考虑侧信息的相关性。