[论文解读] Nested Polar Codes Achieve the Shannon Rate-Distortion Function and the Shannon Capacity

Aria G. Sahebi, S. Sandeep Pradhan|arXiv (Cornell University)|Jan 25, 2014

Error Correcting Code Techniques参考文献 3被引用 3

一句话总结

本文展示了通过利用有限阿贝尔群上的群结构和信道极化，嵌套极化码能够实现任意离散无记忆信道的香农容量以及任意离散无记忆信源的香农率失真函数。该方法通过嵌套结构推广了阿里坎原始的极化码，实现了在二元与非二元字母表下的最优性能。

ABSTRACT

It is shown that nested polar codes achieve the Shannon rate-distortion function for arbitrary (binary or non-binary) discrete memoryless sources and the Shannon capacity of arbitrary discrete memoryless channels.

研究动机与目标

• 将极化码的最优性从对称容量扩展至任意离散无记忆信道的完整香农容量。
• 证明嵌套极化码可实现任意离散无记忆信源的香农率失真函数，而不仅限于对称率失真函数。
• 通过有限阿贝尔群和群运算，将极化编码技术从二元字母表推广至非二元字母表。
• 证明嵌套极化码在信道编码和源编码场景下均能实现可忽略的误码概率和可忽略的速率损失。

提出的方法

• 在有限阿贝尔群上使用原始的 $(u, u+v)$ 核，将极化推广至非二元字母表。
• 采用嵌套编码结构，利用子群 $K \leq H \leq \mathbf{G}$ 对码索引进行基于极化行为的划分。
• 根据巴氏参数 $Z^H(W_{c,N}^{(i)})$ 和 $Z^H(W_{s,N}^{(i)})$ 定义集合 $A_{H,K}$ 和 $B_{H,K}$，以识别可靠与不可靠信道。
• 使用陪集代表元 $T_H$ 和 $T_{K \leq H}$ 将群元素分解为分量，以实现编码和解码中的结构化消息注入。
• 采用两阶段编码：对于满足 $K \leq H$ 的索引 $i$，$[v_i]_K$ 已知，$[v_i]_{T_{K\leq H}}$ 携带消息；对于 $K \nleq H$ 的情况，$v_i$ 通过独立的极化码传输。
• 解码采用陪集上的最大似然：$\hat{v}_i = \arg\max_{g \in [v_i]_K + [v_i]_{T_{K\leq H}} + T_H} W_{c,N}^{(i)}(z_1^N, \hat{v}_1^{i-1} | g)$，确保可靠重构。

实验结果

研究问题

• RQ1 嵌套极化码能否实现包括非二元信道在内的任意离散无记忆信道的香农容量？
• RQ2 嵌套极化码能否实现具有通用重建字母表的任意离散无记忆信源的香农率失真函数？
• RQ3 如何通过有限阿贝尔群将极化框架从二元字母表推广至非二元字母表？
• RQ4 在嵌套结构中，由于传输不可靠索引导致的速率损失是多少？是否可使其可忽略？
• RQ5 能否设计嵌套结构，使得需要显式传输的索引比例随块长增加而趋于零？

主要发现

• 通过在有限阿贝尔群上基于群的极化和嵌套编码，嵌套极化码实现了任意离散无记忆信道（包括非二元信道）的香农容量。
• 当 $N \to \infty$ 时，满足 $K \nleq H$ 的索引比例趋于零，因此通过独立极化码传输的速率损失可忽略不计。
• 由于巴氏参数的极化特性，信道编码和源编码场景下的误码概率随块长 $N$ 增大而收敛至零。
• 先前工作仅在二元信源下实现了对称率失真函数，而本文将结果推广至具有通用重建字母表的任意离散无记忆信源。
• 通过使用陪集代表元和子群分解，实现了非二元场景下的结构化消息注入和可靠解码。
• 分析表明，当 $i \in A_H$ 时，$Z^H(W_{c,N}^{(i)}) \to 0$ 且 $Z^H(W_{s,N}^{(i)}) \to 1$；当 $i \in B_H$ 时，$Z^H(W_{c,N}^{(i)}) \to 1$ 且 $Z^H(W_{s,N}^{(i)}) \to 0$，证实了极化现象。