[论文解读] Optimality and Approximate Optimality of Source-Channel Separation in Networks

Chao Tian, Jun Chen+2 more|arXiv (Cornell University)|Apr 15, 2010

Wireless Communication Security Techniques参考文献 19被引用 4

一句话总结

该论文在两种一般性网络场景中建立了源信道分离的最优性：(1) 在同步、正交、无记忆的点对点信道中传输任意相关源；(2) 在具有反馈的通用多用户信道中传输独立源。此外，论文还展示了在‘差值’失真度量下的近似最优性，对于二次失真，每增加一个额外用户，性能损失的通用上界为0.5比特。

ABSTRACT

We consider the source-channel separation architecture for lossy source coding in communication networks. It is shown that the separation approach is optimal in two general scenarios, and is approximately optimal in a third scenario. The two scenarios for which separation is optimal complement each other: the first is when the memoryless sources at source nodes are arbitrarily correlated, each of which is to be reconstructed at possibly multiple destinations within certain distortions, but the channels in this network are synchronized, orthogonal and memoryless point-to-point channels; the second is when the memoryless sources are mutually independent, each of which is to be reconstructed only at one destination within a certain distortion, but the channels are general, including multi-user channels such as multiple access, broadcast, interference and relay channels, possibly with feedback. The third scenario, for which we demonstrate approximate optimality of source-channel separation, generalizes the second scenario by allowing each source to be reconstructed at multiple destinations with different distortions. For this case, the loss from optimality by using the separation approach can be upper-bounded when a "difference" distortion measure is taken, and in the special case of quadratic distortion measure, this leads to universal constant bounds.

研究动机与目标

• 确定在何种一般性网络条件下，源信道分离仍保持最优或近似最优。
• 解决长期以来关于分离架构是否可普遍应用于点对点系统之外的疑问。
• 通过结构化与信息论论证，避免对率失真区域和容量区域进行显式刻画。
• 将经典分离定理扩展至涉及多用户信道与多重重建的复杂网络拓扑。
• 为评估在多播与多接收场景中分离架构的性能损失提供一个框架。

提出的方法

• 利用信道仿真与样本交织技术，证明分布式网络联合源信道编码（DNJSCC）场景下的最优性。
• 应用交互式源编码与网络编码的洞见，将相关源网络中的源编码与信道编码解耦。
• 采用互信息与熵不等式，对译码错误概率进行上界估计，确保可靠的消息恢复。
• 引入一种‘差值’失真度量，以量化多播场景中联合编码与分离编码之间的性能差距。
• 利用条件熵与互信息的性质，推导出在二次失真下性能损失的通用上界。
• 借助对称性与递归译码论证，证明在指定速率下，多个接收方可按序译码消息。

实验结果

研究问题

• RQ1 在何种网络条件下，源信道分离对相关源与多用户信道是最优的？
• RQ2 当源在多个不同目的地以不同失真重建时，源信道分离是否可以是近似最优的？
• RQ3 是否可能在不依赖对率失真或容量区域显式知识的前提下，建立分离性能的边界？
• RQ4 信道中反馈或记忆的存在如何影响分离的最优性？
• RQ5 分离架构能否扩展至异步源、有限记忆信道或混合失真度量的网络？

主要发现

• 在同步、正交、无记忆的点对点信道中，任意相关源的源信道分离是最优的。
• 当源相互独立并传输至通用多用户信道（包括多址、广播、干扰与中继信道）时，即使存在反馈，分离也是最优的。
• 在不同接收端具有不同失真的多播场景中，使用分离时的性能损失在‘差值’失真度量下受一个通用常数约束。
• 在二次失真特例下，性能损失的上界最多为每增加一个重建同一源的额外用户0.5比特。
• 该结果无需显式刻画率失真区域或容量区域，仅依赖于结构化与信息论论证。
• 该框架可经少量修改扩展至异步源、有限记忆信道以及混合失真度量的场景。