[论文解读] A New and More General Capacity Theorem for the Gaussian Channel with Two-sided Input-Noise Dependent State Information

Nima S. Anzabi-Nezhad, Ghosheh Abed Hodtani+1 more|arXiv (Cornell University)|Jul 17, 2015

Wireless Communication Security Techniques参考文献 8被引用 5

一句话总结

本文提出了一种新的高斯信道容量定理，适用于输入与噪声均相关于双侧状态信息的信道，通过考虑输入侧信息的相关性，推广了科斯塔的“脏纸编码”（dirty paper coding）理论。关键贡献在于推导出一个容量表达式，表明容量随状态信息与信道噪声之间互信息的增加而增加，从而通过状态信息与噪声的相关性，形式化了通信系统中‘认知’（cognition）的概念。

ABSTRACT

In this paper, a new and general version of Gaussian channel in presence of two-sided state information correlated to the channel input and noise is considered. Determining a general achievable rate for the channel and obtaining the capacity in a non-limiting case, we try to analyze and solve the Gaussian version of the Cover-Chiang theorem -as an open problem- mathematically and information-theoretically. Our capacity theorem, while including all previous theorems as its special cases, explains situations that can not be analyzed by them; for example, the effect of the correlation between the side information and the channel input on the capacity of the channel that can not be analyzed with Costa's "writing on dirty paper" theorem. Meanwhile, we try to introduce our new idea, i.e., describing the concept of "cognition" of a communicating object (transmitter, receiver, relay and so on) on some variable (channel noise, interference and so on) with the information-theoretic concept of "side information" correlated to that variable and known by the object. According to our theorem, the channel capacity is an increasing function of the mutual information of the side information and the channel noise. Therefore our channel and its capacity theorem exemplify the "cognition" of the transmitter and receiver on the channel noise based on the new description. Our capacity theorem has interesting interpretations originated from this new idea.

研究动机与目标

• 从数学与信息论角度，解决高斯版本的Cover-Chiang定理中，具有双侧、输入-噪声相关状态信息的开放性问题。
• 通过引入输入与辅助信息之间的相关性，扩展现有成果（特别是科斯塔的脏纸编码），而此前的定理无法处理这种相关性。
• 利用信息论工具，通过与信道噪声相关联的辅助信息，形式化通信系统中发射机与接收机的‘认知’（cognition）概念。
• 推导出一个通用的容量表达式，可涵盖所有先前定理作为特例，并能分析此前无法处理的场景。

提出的方法

• 提出一种新的高斯信道模型，其双侧状态信息与输入和噪声均相关，通过联合高斯分布与马尔可夫链定义。
• 利用结构化信号与辅助随机变量，推导出一个通用的可实现速率，其中对输入与辅助信息施加功率约束。
• 利用马尔可夫链 $X \rightarrow (S_1, S_2) \rightarrow Z$ 建立容量的上界，并在特定条件下证明该上界是紧的。
• 提出一种新颖的‘认知’表征方式，即辅助信息与信道噪声之间的互信息，表明容量随该互信息的增加而提升。
• 使用引理3构造具有任意相关系数的联合分布，实现输入与辅助信息之间相关性的通用建模。
• 使用引理4推导马尔可夫链下的条件独立性约束，从而实现高斯系统中相关性传播的推导。

实验结果

研究问题

• RQ1 信道输入与辅助信息之间的相关性如何影响具有双侧状态信息的高斯信道容量？
• RQ2 当输入侧辅助信息与信道输入相关时，是否可以对高斯信道的容量进行表征，而不仅限于科斯塔脏纸编码所覆盖的独立情况？
• RQ3 接收端辅助信息与输入及噪声均相关，在决定信道容量方面起什么作用？
• RQ4 如何利用互信息等信息论概念，形式化‘认知’（即发射机或接收机对信道噪声的了解）这一概念？
• RQ5 当发射机与接收机均具有与信道噪声相关的辅助信息时，高斯信道的一般容量表达式是什么？

主要发现

• 具有双侧、输入-噪声相关状态信息的高斯信道容量，严格随辅助信息与信道噪声之间互信息的增加而增加。
• 所提出的容量定理通过允许输入与辅助信息之间的相关性，推广了科斯塔的脏纸编码，而原定理无法处理此类情况。
• 当相关性结构退化时，容量表达式可退化为已知结果（如GP、科斯塔、Heegard-El Gamal）的特例。
• 当辅助信息与噪声之间的互信息最大化时，信道容量达到最大，形式化了‘认知’可提升通信速率的观点。
• 在马尔可夫链 $X \rightarrow (S_1, S_2) \rightarrow Z$ 条件下，所推导的容量上界是紧的，从而在非极限情况下确立了容量。
• 本文提供了一种构造方法，通过逆变换法与分位数函数，可生成具有任意相关性的输入与辅助信息的联合分布。