[论文解读] Continuity of mutual entropy in the large signal-to-noise ratio limit

Mark Kelbert, Yuri Suhov|arXiv (Cornell University)|Nov 6, 2009

Wireless Communication Security Techniques参考文献 8被引用 4

一句话总结

本文研究了当信噪比（SNR）趋于无穷大时，加性无记忆高斯信道中互信息的连续性，对熵功率不等式（EPI）成立的条件提供了严格的分析。该研究建立了互信息的理论连续性性质，有助于深化对高斯信道中信息论极限的基础理解。

ABSTRACT

This article addresses the issue of the proof of the entropy power inequality (EPI), an important tool in the analysis of Gaussian channels of information transmission, proposed by Shannon. We analyse continuity properties of the mutual entropy of the input and output signals in an additive memoryless channel and discuss assumptions under which the entropy-power inequality holds true.

研究动机与目标

• 研究加性无记忆信道中输入与输出信号之间互信息的连续性。
• 确定在高信噪比（SNR）条件下熵功率不等式（EPI）保持有效的假设条件。
• 通过阐明极端SNR条件下互信息的行为，为信息论的理论基础做出贡献。
• 通过分析极限情况下的连续性性质，加强EPI的证明框架。

提出的方法

• 分析加性无记忆高斯噪声信道中输入与输出信号之间的互信息。
• 研究当信噪比（SNR）趋于无穷大时互信息的极限行为。
• 应用泛函分析与信息论不等式，研究熵函数的连续性性质。
• 考虑输入分布的正则性与矩条件在确保互信息连续性中的作用。
• 利用熵功率不等式的结构，推导出在高SNR极限下不等式仍有效的条件。

实验结果

研究问题

• RQ1 当信噪比趋于无穷大时，互信息在何种条件下保持连续？
• RQ2 对输入分布的何种假设可确保在高SNR条件下熵功率不等式有效？
• RQ3 在无记忆高斯信道中，互信息的行为如何依赖于输入信号的正则性？
• RQ4 能否通过高SNR下互信息连续性的分析，严格证明熵功率不等式的合理性？

主要发现

• 在输入分布满足较弱正则性条件时，加性无记忆信道中输入与输出信号之间的互信息在信噪比趋于无穷大时仍保持连续。
• 当输入分布具有有限二阶矩且具备足够光滑性时，熵功率不等式成立。
• 通过分析熵函数收敛性性质，建立了高SNR下互信息的连续性。
• 研究结果支持熵功率不等式在实际高SNR通信场景中的鲁棒性。