[论文解读] Re-proving Channel Polarization Theorems: An Extremality and Robustness Analysis

Mine Alsan|arXiv (Cornell University)|Dec 13, 2014

Error Correcting Code Techniques参考文献 54被引用 4

一句话总结

本论文通过极值性与鲁棒性分析，重新证明了信道极化定理，表明极化变换可提升二元输入信道的Gallager $E_0(\rho)$，且二元删除信道与对称信道保持极值性。该研究建立了极化码在信道不确定性、非平稳信道及匹配错误译码下的鲁棒性，证明其在各类信道族及广义似然比检验下均能保持接近容量的性能。

ABSTRACT

The general subject considered in this thesis is a recently discovered coding technique, polar coding, which is used to construct a class of error correction codes with unique properties. In his ground-breaking work, Arıkan proved that this class of codes, called polar codes, achieve the symmetric capacity --- the mutual information evaluated at the uniform input distribution ---of any stationary binary discrete memoryless channel with low complexity encoders and decoders requiring in the order of $O(N\log N)$ operations in the block-length $N$. This discovery settled the long standing open problem left by Shannon of finding low complexity codes achieving the channel capacity. Polar coding settled an open problem in information theory, yet opened plenty of challenging problems that need to be addressed. A significant part of this thesis is dedicated to advancing the knowledge about this technique in two directions. The first one provides a better understanding of polar coding by generalizing some of the existing results and discussing their implications, and the second one studies the robustness of the theory over communication models introducing various forms of uncertainty or variations into the probabilistic model of the channel.

研究动机与目标

• 通过推广信息度量（如$E_0(\rho)$）的现有结果并证明二元删除信道与对称信道的极值性，深化对极化编码的理解。
• 解决在信道参数变化与模型不确定性下极化码设计的实用鲁棒性挑战。
• 将信道极化理论扩展至非平稳无记忆信道，以更准确地建模现实世界中时变噪声。
• 开发在不同假设下（译码器与编码器知识）均能保持性能的通用极化码构造方法。
• 建立基于凸随机序的信道部分序关系的严格框架，将极化编码与更广泛的信息论序关系联系起来。

提出的方法

• 使用基本方法重新推导信道极化，聚焦极化变换下$E_0(\rho)$的演化，证明误差指数性能的单调提升。
• 通过变分分析与极值分析，证明在给定$\rho > -1$下，二元删除信道与对称信道在所有二元输入信道中对$E_0(\rho)$具有极值性。
• 引入凸随机序框架，形式化信道的部分序关系，支持在信道族中分析码的鲁棒性。
• 通过允许译码器知晓真实信道，分析极化码在匹配错误译码下的性能，将其与对称凸序联系，并证明性能界。
• 通过仅使用基本不等式与信息组合原理，重新证明极化，将极化码构造扩展至非平稳无记忆信道。
• 在译码器端使用广义似然比检验（GLRT）实现二元输入信道上的通用译码，需满足特定结构条件，以复杂度换取鲁棒性。

实验结果

研究问题

• RQ1 极化变换如何影响Gallager的$E_0(\rho)$？是否能提升二元输入信道的误差指数性能？
• RQ2 在给定$\rho$下，对于固定的$E_0(\rho)$值，二元删除信道与二元对称信道是否在所有二元输入信道中为极值信道？
• RQ3 当真实信道未知时，能否使极化码对信道参数变化具有鲁棒性？其通用设计原则是什么？
• RQ4 在转移概率随时间变化的非平稳信道模型下，极化码构造是否仍有效且可达到容量？
• RQ5 在不匹配场景下，使用基于GLRT的规则时，通用译码性能与译码复杂度之间存在何种权衡？

主要发现

• 对于所有$\rho > -1$，极化变换在二元输入信道中严格提升$E_0(\rho)$，意味着误差指数性能更优，且复杂度-误差权衡更优。
• 在任意固定的$\rho > -1$下，二元删除信道与二元对称信道在所有二元输入信道中对$E_0(\rho)$具有极值性，即分别达到最小与最大$E_0(\rho)$值。
• 极化码在信道不确定性下表现出鲁棒性：当译码器知晓真实信道时，极化码设计在对称凸序下依然有效。
• 极化码构造在非平稳无记忆信道中依然有效，因为即使转移概率随时间变化，极化现象仍被保持。
• 在满足温和结构假设下，使用近似GLRT译码的极化码可在二元输入信道族上实现通用性能，其复杂度为$O(N\log N)$量级。
• 可通过牺牲复杂度换取鲁棒性：多个基于GLRT的译码调用可实现二元输入信道上的通用译码，但需更高的译码复杂度。