[论文解读] Pseudorandom Linear Codes Are List-Decodable to Capacity

Putterman, Aaron (Louie), Pyne, Edward|arXiv (Cornell University)|Sep 24, 2021

Cooperative Communication and Network Coding被引用 1

一句话总结

该论文表明，打孔低偏差码——具体而言，任何低偏差或大距离的‘母码’的随机打孔——继承了随机线性码（RLCs）的最优列表译码和容量达成特性，从而在不损失性能的前提下实现了RLCs的去随机化。关键结果是，在母码满足温和结构假设的前提下，此类打孔码在记忆性加性噪声信道上以高概率实现列表译码容量和香农容量。

ABSTRACT

Random linear codes are a workhorse in coding theory, and are used to show the existence of codes with the best known or even near-optimal trade-offs in many noise models. However, they have little structure besides linearity, and are not amenable to tractable error-correction algorithms. In this work, we prove a general derandomization result applicable to random linear codes. Namely, in settings where the coding-theoretic property of interest is "local" (in the sense of forbidding certain bad configurations involving few vectors -- code distance and list-decodability being notable examples), one can replace random linear codes (RLCs) with a significantly derandomized variant with essentially no loss in parameters. Specifically, instead of randomly sampling coordinates of the (long) Hadamard code (which is an equivalent way to describe RLCs), one can randomly sample coordinates of any code with low bias. Over large alphabets, the low bias requirement can be weakened to just large distance. Furthermore, large distance suffices even with a small alphabet in order to match the current best known bounds for RLC list-decodability. In particular, by virtue of our result, all current (and future) achievability bounds for list-decodability of random linear codes extend automatically to random puncturings of any low-bias (or large alphabet) "mother" code. We also show that our punctured codes emulate the behavior of RLCs on stochastic channels, thus giving a derandomization of RLCs in the context of achieving Shannon capacity as well. Thus, we have a randomness-efficient way to sample codes achieving capacity in both worst-case and stochastic settings that can further inherit algebraic or other algorithmically useful structural properties of the mother code.

研究动机与目标

• 为解决随机线性码（RLCs）缺乏结构且算法效率低下的问题，尽管其性能强大但难以译码。
• 证明RLCs的最优组合性质——如列表可译性和容量达成行为——可通过使用低偏差或高距离母码的去随机化方法得以保留。
• 表明此类母码的随机打孔可同时在最坏情况和随机信道设置下模拟RLCs的行为。
• 提供一个通用的去随机化框架，适用于编码理论中通常由RLCs满足的任意局部单调递减编码性质。
• 实现具有代数结构和高效译码能力的码的构造，同时保持RLCs的性能。

提出的方法

• 作者将‘局部’编码性质定义为：仅当一小部分码字构成‘坏配置’（如违反距离或列表译码约束）时才会失效。
• 他们证明，若母码D具有低偏差（或大距离），则D的随机打孔C会继承RLC在该类局部性质上的典型行为。
• 证明使用了概率方法和集中不等式，特别是利用D的偏差来控制随机打孔违反特定性质的概率。
• 对于记忆性加性噪声信道，作者对误差向量使用并集界，并应用基于偏差的界，以估计非零向量被包含在打孔码中的概率。
• 他们证明译码失败的概率在n上指数衰减，使用马尔可夫不等式和典型集论证。
• 该框架适用于任意字母表大小q，并可扩展至最坏情况和随机设置，且提供显式的误差界。

实验结果

研究问题

• RQ1 能否在保留随机线性码最优列表译码和容量达成特性的同时实现其去随机化？
• RQ2 在何种母码条件下，随机打孔能保持随机线性码的局部性质？
• RQ3 低偏差码能否作为哈达玛码在模拟RLCs的随机打孔构造中的有效替代？
• RQ4 在随机信道中，RLCs的性能在多大程度上可被具有结构的低偏差母码所复制？
• RQ5 该去随机化框架能否推广至编码理论中任意感兴趣的单调递减局部性质？

主要发现

• 低偏差码的随机打孔以高概率实现列表译码容量，性能与随机线性码一致。
• 对于任意素数幂q和记忆性加性噪声分布ν，若ε/(3(q−1))-偏差码的速率R ≤1−Hq(ν)−ε，则其随机打孔在译码错误概率不超过2q−cνε²n的前提下实现容量。
• 随机打孔不满足某一局部单调递减性质的概率至多为2−Ω(εn)，与RLC的界一致。
• 去随机化在最坏情况和随机设置下均保持性能，包括二元及更大字母表。
• 只要母码具有大距离，即使在小字母表下结果依然成立，从而超越了低偏差要求的限制。
• 该框架使具有代数结构和高效译码能力的码的构造成为可能，同时实现香农容量和列表译码容量。