[论文解读] On the Capacity of Signal Dependent Noise Channels

Hamid Ghourchian, Gholamali Aminian+3 more|arXiv (Cornell University)|Feb 12, 2017

Molecular Communication and Nanonetworks被引用 4

一句话总结

本文建立了加性信号相关噪声（ASDN）信道容量的上下界，表明降低噪声方差并不总是提高容量——这与经典的AWGN信道相反。文中确定了容量为有限或无限的条件，并证明了在有限容量情况下存在唯一的容量达到输出分布。

ABSTRACT

In some applications, the variance of additive measurement noise depends on the signal that we aim to measure. For instance, additive Gaussian signal-dependent noise (AGSDN) channel models are used in molecular and optical communication. Herein we provide lower and upper bounds on the capacity of additive signal-dependent noise (ASDN) channels. The idea of the first lower bound is the extension of the majorization inequality, and for the second one, it uses some calculations based on the fact that $h(Y) > h (Y|Z)$. Both of them are valid for all additive signal-dependent noise (ASDN) channels defined in the paper. The upper bound is based on a previous idea of the authors (symmetric relative entropy) and is used for the additive Gaussian signal-dependent noise (AGSDN) channels. These bounds indicate that in ASDN channels (unlike the classical AWGN channels), the capacity does not necessarily become larger by making the variance function of the noise smaller. We also provide sufficient conditions under which the capacity becomes infinity. This is complemented by a number of conditions that imply capacity is finite and a unique capacity achieving measure exists (in the sense of the output measure).

研究动机与目标

• 分析加性信号相关噪声（ASDN）信道的容量，其中噪声方差依赖于所传输的信号。
• 解决一个基本问题：在ASDN模型中，降低噪声方差是否总是提高信道容量？
• 推导适用于所有ASDN信道的紧致解析边界。
• 识别容量变为无限的充分条件，以及确保有限容量且具有唯一容量达到输入分布的条件。

提出的方法

• 通过将广义化排序不等式扩展至处理信号相关噪声结构，推导出第一个下界。
• 通过利用不等式 $ h(Y) > h(Y|Z) $ 推导出第二个下界，其中 $ h $ 表示微分熵。
• 基于对称相对熵提出一个上界，该方法源自先前工作，特别针对加性高斯信号相关噪声（AGSDN）信道进行定制。
• 应用信息论工具，如微分熵和相对熵，分析在信号相关噪声下的信道行为。
• 利用输出测度表征容量达到输入分布的存在性与唯一性。
• 分析容量在不同噪声方差函数下的行为，表明其对噪声特性的依赖关系是非单调的。

实验结果

研究问题

• RQ1 当信号相关噪声的方差减小时，ASDN信道的容量是否总是增加？
• RQ2 一般ASDN信道容量的紧致解析边界是什么？
• RQ3 ASDN信道容量在何种条件下变为无限？
• RQ4 ASDN信道在何种条件下存在唯一的容量达到输入分布？
• RQ5 在相似噪声条件下，AGSDN信道的容量与经典AWGN信道相比如何？

主要发现

• ASDN信道的容量并不一定在噪声方差降低时增加，这与经典AWGN信道的直觉相反。
• 推导出两个容量下界——一个通过排序不等式，另一个通过微分熵比较 $ h(Y) > h(Y|Z) $ ——适用于所有ASDN信道。
• 基于对称相对熵建立了一个上界，特别适用于AGSDN信道。
• 识别出ASDN信道容量变为无限的充分条件。
• 对于有限容量的ASDN信道，本文证明了容量达到输出测度的存在性与唯一性。
• 结果表明，在指定条件下，有限容量区域内的容量达到输入分布是唯一确定的。