[论文解读] A Derivation of the Source-Channel Error Exponent Using Nonidentical Product Distributions

Adrià Tauste Campo, Gonzalo Vazquez-Vilar+3 more|arXiv (Cornell University)|Mar 25, 2013

Wireless Communication Security Techniques参考文献 16被引用 2

一句话总结

本文通过为每类源消息使用非相同的产品分布，推导出一种新的随机编码错误指数，用于联合源信道编码。结果表明，在球形打包界紧致的情况下，仅使用一个或两个最优选择的分布即可实现球形打包指数，优于以往使用固定或与消息无关分布的方法。

ABSTRACT

This paper studies the random-coding exponent of joint source-channel coding for a scheme where source messages are assigned to disjoint subsets (referred to as classes), and codewords are independently generated according to a distribution that depends on the class index of the source message. For discrete memoryless systems, two optimally chosen classes and product distributions are found to be sufficient to attain the sphere-packing exponent in those cases where it is tight.

研究动机与目标

• 通过允许码字从与消息类别相关的分布生成，而非单一固定分布，以改进联合源信道编码中的错误指数。
• 弥合离散无记忆系统中可实现错误指数与球形打包上界之间的差距。
• 确定为实现最优错误指数，码本中所需的最少不同分布数量。
• 提出一种新的随机编码界，以考虑源消息类别及其相关分布。
• 证明当球形打包界紧致时，仅使用一个或两个分布即可实现球形打包指数，且该指数可通过该新集合实现。

提出的方法

• 提出一种码集合，其中不同源消息的码字独立地从依赖于消息类别索引的产品分布中抽取。
• 通过考虑源类型类别及其关联的信道转移概率，推导出平均错误概率的新随机编码界。
• 使用大偏差分析和类型类别枚举来界定错误概率，重点关注主导的指数项。
• 对一组分布 Q 上的信道可靠性函数 E₀(ρ, W, Q) 的拟凸包进行应用，以推导出指数。
• 使用 Gallager 源函数 Es(ρ, P) 和信道函数 E₀(ρ, W, Q)，将错误指数表示为互信息和散度项的形式。
• 利用类型类别上散度和熵函数的均匀连续性，取块长 n → ∞ 的极限，导出最终的指数表达式。

实验结果

研究问题

• RQ1 使用类相关分布的联合源信道编码方案能否实现球形打包错误指数？
• RQ2 为实现最优错误指数，码本中所需的最少不同产品分布数量是多少？
• RQ3 使用非相同分布推导出的错误指数与 Gallager 的固定分布方法及 Csiszár 方法相比如何？
• RQ4 在何种条件下球形打包指数是紧致的，并可通过该新编码方案实现？
• RQ5 能否通过信道可靠性函数的拟凸包，将错误指数表示为源类型和信道类型上的最小化问题？

主要发现

• 所提出的使用类相关产品分布的码集合，在球形打包界紧致的所有情况下，均可实现球形打包错误指数。
• 在最优码本中，仅需一个或两个不同的产品分布即可实现球形打包指数。
• 错误指数由 maxρ∈[0,1] {Ē₀(ρ, W, Q) − tEs(ρ, P)} 给出，其中 Ē₀ 是信道可靠性函数在一组分布 Q 上的拟凸包。
• 推导表明，当速率 t 位于该界紧致的区域时，错误指数与上界（球形打包界）一致。
• 与 Gallager 的固定分布方法相比，该方法在固定分布方法表现不足的区域，可实现更高或相等的错误指数，从而实现改进。
• 结果证实，为每类源消息选择合适的分布，对于实现源编码与信道编码可靠性之间的最优权衡至关重要。