[论文解读] Polarization for arbitrary discrete memoryless channels

Eren Şaşoğlu, Emre Telatar+1 more|ArXiv.org|Aug 3, 2009

Error Correcting Code Techniques参考文献 3被引用 68

一句话总结

本文将信道极化理论推广至任意输入字母表大小为 q ≥ 2 的有限输入字母表的离散无记忆信道（DMCs）。通过在 q 为素数时使用有限域上的代数构造，q 为合数时使用随机化构造，扩展二元极化框架，作者证明了极化码可在低复杂度编码与译码下实现任意 DMC 的真实（非对称）信道容量，同时保持与二元情况相同的错误概率衰减速率 2^{-√N}。

ABSTRACT

Channel polarization, originally proposed for binary-input channels, is generalized to arbitrary discrete memoryless channels. Specifically, it is shown that when the input alphabet size is a prime number, a similar construction to that for the binary case leads to polarization. This method can be extended to channels of composite input alphabet sizes by decomposing such channels into a set of channels with prime input alphabet sizes. It is also shown that all discrete memoryless channels can be polarized by randomized constructions. The introduction of randomness does not change the order of complexity of polar code construction, encoding, and decoding. A previous result on the error probability behavior of polar codes is also extended to the case of arbitrary discrete memoryless channels. The generalization of polarization to channels with arbitrary finite input alphabet sizes leads to polar-coding methods for approaching the true (as opposed to symmetric) channel capacity of arbitrary channels with discrete or continuous input alphabets.

研究动机与目标

• 将信道极化理论从二元输入信道推广至任意输入字母表大小为 q ≥ 2 的离散无记忆信道。
• 证明极化码可实现任意 DMC 的真实信道容量（而非仅对称容量），包括非二元输入的信道。
• 为复合输入字母表大小的信道系统性地构建极化码，方法是将其分解为素数大小的子组件。
• 证明随机化构造可使所有 DMC 实现极化，即使代数方法失效，且不增加编码、译码或码构造的复杂度。
• 将极化码的错误概率分析扩展至非二元情况，确认其衰减速率与二元情况相同，均为 2^{-√N}。

提出的方法

• 通过在输入字母表上使用排列 π 定义变换，将二元信道极化变换 W ↦ (W⁻, W⁺) 推广至 q 元输入，得到广义的 W^{(π)} 信道，推广了 W⁻ 和 W⁺ 的概念。
• 当 q 为素数时，利用有限域上的代数构造，确保 Bhattacharyya 参数 Z(W) 在极化过程中递减，从而实现极化码的构造。
• 当 q 为合数时，将信道分解为素数输入字母表大小的子信道，对每个子信道独立应用素数情况的构造方法，再通过乘积构造组合结果。
• 通过在变换过程中引入随机性，提出针对任意 DMC 的随机化构造，确保变换后信道的期望 Bhattacharyya 参数在迭代过程中递减。
• 利用鞅理论和 Bhattacharyya 参数的性质，证明当块长增加时，互信息接近 0 或 1 的信道比例趋近于 1。
• 建立变换后信道 Bhattacharyya 参数的上界：Z(W^{(π)}) ≤ min{qZ(W), 2Z(W) + (q−1)Z(W)²}，当 Z(W) < 1 时可确保极化。

实验结果

研究问题

• RQ1 能否将二元输入离散无记忆信道中观察到的极化现象推广至任意有限输入字母表大小的信道？
• RQ2 为确保极化过程使非二元信道的互信息趋近于 0 或 1，需要哪些代数或结构条件？
• RQ3 当需要使用素因数分解方法时，如何为输入字母表大小为复合数（如 q = 4, 6）的信道构建极化码？
• RQ4 能否使用随机化构造使任意 DMC 实现极化，无论输入字母表大小如何，且不增加编码、译码或码构造的渐近复杂度？
• RQ5 非二元情况下极化码的错误概率是否以与二元情况相同的速率衰减，即 2^{-√N}？

主要发现

• 通过使用代数与随机化构造，将二元极化框架扩展至所有输入字母表大小为 q ≥ 2 的离散无记忆信道，包括非二元与复合大小输入，成功建立了极化。
• 当 q 为素数时，利用有限域运算的极化构造确保 Bhattacharyya 参数在迭代中递减，从而实现信道分裂并导致极化。
• 当 q 为合数时，信道被分解为素数大小的子组件，对每个子组件独立应用极化过程，从而实现对完整信道的极化码构造。
• 随机化构造使任意 DMC 实现极化，无论输入字母表大小如何，且变换后信道的期望 Bhattacharyya 参数在迭代中递减，确保极化成立。
• 任意 DMC 的极化码错误概率衰减速率为 2^{-√N}，与二元情况一致，且在大块长极限下可实现对称容量。
• 极化信道的互信息集中在 0 和 1 附近，互信息接近容量（I ≈ 1）的信道比例趋近于真实信道容量，而非仅对称容量。