[论文解读] Threshold rates for properties of random codes

Venkatesan Guruswami, Jonathan Mosheiff+3 more|arXiv (Cornell University)|Sep 9, 2020

Algorithms and Data Compression参考文献 20被引用 5

一句话总结

本文证明了对于一大类对称码性质（如汉明球内的列表恢复和三重码字集中性），阈值速率恰好等于通过一阶矩计算得到的下界。作者精确刻画了阈值速率，提出了高效的估计算法，并在多个参数范围内证明了紧致界，解决了随机编码理论和列表译码容量领域长期存在的开放问题。

ABSTRACT

Suppose that $P$ is a property that may be satisfied by a random code $C \subset Σ^n$. For example, for some $p \in (0,1)$, ${P}$ might be the property that there exist three elements of $C$ that lie in some Hamming ball of radius $pn$. We say that $R^*$ is the threshold rate for ${P}$ if a random code of rate $R^* + ε$ is very likely to satisfy ${P}$, while a random code of rate $R^* - ε$ is very unlikely to satisfy ${P}$. While random codes are well-studied in coding theory, even the threshold rates for relatively simple properties like the one above are not well understood. We characterize threshold rates for a rich class of properties. These properties, like the example above, are defined by the inclusion of specific sets of codewords which are also suitably "symmetric". For properties in this class, we show that the threshold rate is in fact equal to the lower bound that a simple first-moment calculation obtains. Our techniques not only pin down the threshold rate for the property ${P}$ above, they give sharp bounds on the threshold rate for list-recovery in several parameter regimes, as well as an efficient algorithm for estimating the threshold rates for list-recovery in general.

研究动机与目标

• 刻画由特定码字配置包含所定义的一类丰富对称码性质的阈值速率。
• 解决长期悬而未决的关键问题：确定列表-两解码及相关性质的确切阈值速率。
• 在各种参数范围内，为列表恢复场景提供阈值速率的精确估计与高效计算算法。
• 形式化定义‘对称性足够’的性质，使得一阶矩下界为紧致。

提出的方法

• 提出‘对称性足够’性质的正式定义，以确保阈值速率的一阶矩下界为紧致。
• 通过在码字配置分布上进行熵最大化，利用凸优化推导阈值速率。
• 应用类型法与大偏差理论分析随机码中罕见事件的概率。
• 推导出阈值速率的精确公式，该公式为对固定一致度分布的集合大小的自由能型表达式的最小化。
• 开发基于二分查找的算法，通过利用目标函数的凸性与有界性，在加法误差 ε 内逼近阈值速率。
• 证明最小化参数位于已知区间内，从而可通过二分查找实现高效数值逼近。

实验结果

研究问题

• RQ1 在哪些码性质类别中，阈值速率的一阶矩下界实际上是紧致的？
• RQ2 对于参数 (p, ℓ, L) 的列表恢复，其确切阈值速率是多少？它如何随 p、ℓ 和 L 变化？
• RQ3 列表-两解码的阈值速率能否被精确刻画？它是否等于一阶矩下界？
• RQ4 如何高效估计或计算一般列表恢复性质的阈值速率？
• RQ5 对禁止配置的何种结构条件可确保阈值速率与一阶矩下界一致？

主要发现

• 任何对称性质的阈值速率恰好等于通过一阶矩计算得到的下界，解决了随机编码理论中的一个关键开放问题。
• 对于参数为 (p, ℓ, L) 的列表恢复，阈值速率为一个精确公式，涉及对 α 的最小化，其表达式为关于一致度集合大小的对数函数。
• 当 p ≥ t*，其中 t* = 1 − ℓ/q 时，阈值速率为 0，将先前结果推广至更广的参数范围。
• 当 q log L / L 较小时，阈值速率由一个涉及特定分布熵的简单表达式紧致估计。
• 一种高效算法可在时间多项式于 L 和 q 内，以加法误差 ε 内计算阈值速率，且二分查找步骤数为对数级别。
• 该算法的正确性依赖于证明最优 α 位于有界区间内，从而可通过二分查找实现快速收敛。