[论文解读] Universal communication part I: modulo additive channels

Yuval Lomnitz, Meir Feder|arXiv (Cornell University)|Dec 13, 2010

Wireless Communication Security Techniques参考文献 16被引用 7

一句话总结

本文提出了一种适用于未知模加性信道的通用通信框架，其中噪声序列为任意且未知。通过定义一种新颖的“迭代有限块容量”（iterated finite block capacity），并利用反馈动态调整传输速率，作者提出了一种方案，能够普遍达到由噪声序列有限状态可压缩性推导出的理论容量上限，从而克服了传统复合信道模型的局限性。

ABSTRACT

Which communication rates can be attained over a channel whose output is an unknown (possibly stochastic) function of the input that may vary arbitrarily in time with no a-priori model? Following the spirit of the finite-state compressibility of a sequence, defined by Lempel and Ziv, a "capacity" is defined for such a channel as the highest rate achievable by a designer knowing the particular relation that indeed exists between the input and output for all times, yet is constrained to use a fixed finite-length block communication scheme without feedback, i.e. use the same encoder and decoder over each block. In the case of the modulo additive channel, where the output sequence is obtained by modulo addition of an unknown individual sequence to the input sequence, this capacity is upper bounded by a function of the finite state compressibility of the noise sequence. A universal communication scheme with feedback that attains this capacity universally, without prior knowledge of the noise sequence, is presented.

研究动机与目标

• 为无统计模型的未知时变信道定义一个有意义的容量概念。
• 解决传统复合信道或任意时变信道（AVC）模型的局限性，这些模型未纳入反馈或自适应速率控制。
• 提出一种无需事先了解信道行为的通用通信系统，以实现尽可能高的传输速率。
• 建立一种新的“竞争性通用性”概念，即系统性能与已知完整信道信息时可实现的最优速率进行比较。
• 证明反馈即使在缺乏先验信道统计信息的情况下，也能实现对模加性信道的通用速率自适应。

提出的方法

• 引入‘迭代有限块容量’（IFB）作为具有未知个体噪声序列的信道性能基准。
• 利用反馈根据观测到的信道行为动态调整传输速率，实现在无先验知识下的速率自适应。
• 采用马尔可夫模型阶数递增的贝叶斯混合模型，以估计噪声序列的有限状态可压缩性。
• 利用信息论界，结合Kullback-Leibler散度与狄拉克先验，控制通用编码方案中的估计损失。
• 通过斯特林公式和伽马函数不等式，推导出由于模型不确定性导致的速率损失上界。
• 构建一个通用编码器-译码器对，通过最小化所有可能噪声序列下的最坏情况速率损失，普遍实现IFB容量。

实验结果

研究问题

• RQ1 对于具有任意、未知、时变噪声序列的信道，如何定义一个有意义的容量？
• RQ2 当噪声序列未知但固定时，通用通信系统能否实现信道的最优传输速率？
• RQ3 在缺乏信道统计知识的情况下，如何利用反馈实现传输速率的自适应？
• RQ4 噪声序列的有限状态可压缩性与模加性信道中可实现通信速率之间有何关系？
• RQ5 能否构建一种无需事先了解噪声序列的通用方案，以普遍实现IFB容量？

主要发现

• 迭代有限块容量（IFB）被定义为：已知真实输入-输出关系但无反馈的块编码器与译码器所能达到的最大传输速率。
• 模加性信道的IFB容量受噪声序列有限状态可压缩性的函数上界约束。
• 构建了一种基于反馈的通用通信方案，无需事先了解噪声序列，即可普遍实现IFB容量。
• 由于模型不确定性的速率损失被有界，并在适当条件下随块长增加而渐近趋于零。
• 该方案通过使用阶数递增的马尔可夫模型的贝叶斯混合实现通用性能，损失通过斯特林公式和伽马函数不等式进行有界控制。
• 本文证明，在某些对抗性信道模型（如‘密码信道’）下，通用通信是不可能的，凸显了反馈与自适应速率控制在实现通用性中的必要性。