[论文解读] Polar Codes with exponentially small error at finite block length

B{\l}asiok, Jaros{\l}aw, Venkatesan Guruswami+1 more|arXiv (Cornell University)|Oct 9, 2018

Error Correcting Code Techniques被引用 3

一句话总结

本文证明，满足自然混合条件的极化码族在多项式块长下，既能实现逼近容量的收敛，又能实现指数级小的错误概率（exp(−N^Ω(1)））。通过强化阿里坎鞅的局部分析，作者表明任何具有强极化的极化码族在多项式块长下均表现出接近最优的错误指数，从而弥合了理论收敛性与实际错误性能之间的长期鸿沟。

ABSTRACT

We show that the entire class of polar codes (up to a natural necessary condition) converge to capacity at block lengths polynomial in the gap to capacity, while simultaneously achieving failure probabilities that are exponentially small in the block length (i.e., decoding fails with probability $\exp(-N^{\Omega(1)})$ for codes of length $N$). Previously this combination was known only for one specific family within the class of polar codes, whereas we establish this whenever the polar code exhibits a condition necessary for any polarization. Our results adapt and strengthen a local analysis of polar codes due to the authors with Nakkiran and Rudra [Proc. STOC 2018]. Their analysis related the time-local behavior of a martingale to its global convergence, and this allowed them to prove that the broad class of polar codes converge to capacity at polynomial block lengths. Their analysis easily adapts to show exponentially small failure probabilities, provided the associated martingale, the ``Arikan martingale'', exhibits a corresponding strong local effect. The main contribution of this work is a much stronger local analysis of the Arikan martingale. This leads to the general result claimed above. In addition to our general result, we also show, for the first time, polar codes that achieve failure probability $\exp(-N^{\beta})$ for any $\beta < 1$ while converging to capacity at block length polynomial in the gap to capacity. Finally we also show that the ``local'' approach can be combined with any analysis of failure probability of an arbitrary polar code to get essentially the same failure probability while achieving block length polynomial in the gap to capacity.

研究动机与目标

• 弥合极化码理论收敛性与实际错误性能之间的差距。
• 证明所有满足自然混合条件的极化码均能同时实现多项式收敛至容量和指数级小的错误概率。
• 推广以往仅适用于特定极化码构造结果的结论。
• 表明强局部极化性在有限块长下可导出接近最优的错误指数。
• 证明局部分析框架可与任意错误概率分析结合，从而同时提升收敛性与错误指数性能。

提出的方法

• 强化阿里坎鞅的局部分析，以在一般混合条件下建立强极化性。
• 采用黑箱提升技术，将渐近错误指数结果转化为有限块长保证。
• 应用信源编码等价性，将加性信道中的纠错问题与线性压缩方案联系起来。
• 利用错误集在向量支配关系下的上闭包性质，推导码距的下界。
• 通过生成矩阵张量幂的子矩阵选择，构造最小距离较高的码。
• 结合矩阵论、信息论与鞅集中不等式的结果，证明指数极化性与错误指数界。

实验结果

研究问题

• RQ1 整个极化码族是否能同时实现多项式收敛至容量与指数级小的错误概率？
• RQ2 阿里坎鞅的强局部分析是否意味着在有限块长下具有接近最优的错误指数？
• RQ3 能否将任意极化码的错误概率提升至exp(−N^β)（对任意β < 1），同时保持与容量差距的多项式块长？
• RQ4 是否可使用通用、模块化的框架，将渐近错误指数结果提升至有限块长？
• RQ5 局部分析方法是否可普遍地与任意现有错误概率分析结合，以实现有限长性能的提升？

主要发现

• 所有满足混合条件的极化码在块长为容量差距的逆的多项式函数时，错误概率为exp(−N^Ω(1))。
• 对任意β < 1，存在极化码在块长为poly(1/ε)时，既实现容量逼近，又达到错误概率exp(−N^β)。
• 当矩阵足够大且选择得当时，阿里坎鞅表现出β′-指数强极化性（对任意β′ < β）。
• 局部分析技术可与任意现有错误概率分析结合，实现相同错误指数，同时保持与容量差距的多项式块长。
• 可构造M^⊗t的子矩阵，使其最小距离较高，从而确保强极化性与低译码错误率。
• 证明建立了黑箱提升机制：任何渐近错误指数结果均意味着在多项式块长下，可实现相同错误指数的有限长性能。