[论文解读] Achievable Rates for Probabilistic Shaping

Georg Böcherer|arXiv (Cornell University)|Jul 4, 2017

Probabilistic and Robust Engineering Design参考文献 7被引用 56

一句话总结

本论文利用 Gallager 的错误指数框架推导分层概率成形（PS），包括 PAS，并分析解码度量及其对速率的影响。

ABSTRACT

For a layered probabilistic shaping (PS) scheme with a general decoding metric, an achievable rate is derived using Gallager's error exponent approach and the concept of achievable code rates is introduced. Several instances for specific decoding metrics are discussed, including bit-metric decoding, interleaved coded modulation, and hard-decision decoding. It is shown that important previously known achievable rates can also be achieved by layered PS. A practical instance of layered PS is the recently proposed probabilistic amplitude shaping (PAS).

研究动机与目标

• 将概率成形作为一种使通道的非均匀容量实现输入匹配的一种方式。
• 引入分层 PS 及可实现的码率，以区分编码速率与传输速率。
• 利用 Gallager 的错误指数方法推导适用于通用解码度量的通用可实现速率表达式。
• 将该框架带入具体的解码度量，如比特度量解码、交错编码调制，以及硬判决解码。

提出的方法

• 用成形集和随机码本定义分层概率成形。
• 使用 Gallager 的错误指数方法推导分层 PS 设置中成功编码与解码的条件。
• 引入可实现的码率并从编码与散度项推导传输速率表达式。
• 给出一个通用的不确定性基础的速率表达，并将其专门化到若干解码度量上。
• 给出实际实例，包括 PAS 作为具体的分层 PS 方案，并将结果与现有收发机概念相关联。

实验结果

研究问题

• RQ1 在一般解码度量下，分层 PS 可以保证的可实现速率是多少？
• RQ2 编码与解码约束如何与输入分布 P_X 及均匀码本相互作用以确定可实现的速率？
• RQ3 常见度量（如比特-度量解码、交错编码调制、硬判决解码）的具体可实现速率是多少？
• RQ4 解码度量 q 的选择如何通过不确定性、散度以及输出角度影响速率？
• RQ5 PAS及类似的分层 PS 方案如何适配所推导的框架，并与经典收发机进行比较？

主要发现

• 分层 PS 编码成功的闭式条件为 R_tx < [R_c − D(P_X || P_U)]^+。
• 解码速率界限为 R_c < T_c(x^n, y^n, q)，T_c 的显式表达式涉及对数和归一化的 q 项。
• 对于无记忆信道，推导出单字母可实现速率 T_c，取决于涉及 q 与 P_XY 的期望不确定性项。
• 比特-度量解码给出与 ABC（Achievable Binary Code）速率公式相匹配的实际可实现速率。
• 对 Interleaved coded modulation 进行了分析，给出统一的速率表达式，考虑交错与度量设计。
• 硬判决解码给出一个涉及二进制/|X|-元熵项的速率表达式，说明量化如何影响 PS 速率。
• 该框架作为特例恢复经典 LM-Rate，并显示如何将非均匀输入并入分层 PS 以实现相近的速率。
• 将广义互信息（GMI）作为在均匀输入下分析带度量 q 的速率的工具，并且一种度量变换在某些设定下显示与 PS 速率等价。
• 该工作阐明了 PAS 如何在严格的信息理论层面进行解释，将实际成形与可实现速率联系起来。