[论文解读] Capacity Achieving Distributions & Information Lossless Randomized Strategies for Feedback Channels with Memory: The LQG Theory of Directed Information-Part II.

Charalambos D. Charalambous, Christos K. Kourtellaris+1 more|arXiv (Cornell University)|Apr 4, 2016

Wireless Communication Security Techniques参考文献 22被引用 7

一句话总结

本文提出一种方法，用于在具有记忆和反馈的时变MIMO高斯线性信道中实现容量最优的信道输入分布，采用信息无损的随机化策略。通过利用LQG控制框架，将最优策略分解为确定性和随机性两部分，揭示了其在控制信道输出和传输新信息方面的双重作用，反馈容量通过黎卡提方程表征，无需事先假设稳定性或遍历性。

ABSTRACT

A methodology is developed to realized optimal channel input conditional distributions, which maximize the finite-time horizon directed information, for channels with memory and feedback, by information lossless randomized strategies. The methodology is applied to general Time-Varying Multiple Input Multiple Output (MIMO) Gaussian Linear Channel Models (G-LCMs) with memory, subject to average transmission cost constraints of quadratic form. The realizations of optimal distributions by randomized strategies are shown to exhibit a decomposion into a deterministic part and a random part. The decomposition reveals the dual role of randomized strategies, to control the channel output process and to transmit new information over the channels. Moreover, a separation principle is shown between the computation of the optimal deterministic part and the random part of the randomized strategies. The dual role of randomized strategies generalizes the Linear-Quadratic-Gaussian (LQG) stochastic optimal control theory to directed information pay-offs. The characterizations of feedback capacity are obtained from the per unit time limits of finite-time horizon directed information, without imposing \'a priori assumptions, such as, stability of channel models or ergodicity of channel input and output processes. For time-invariant MIMO G-LCMs with memory, it is shown that whether feedback increases capacity, is directly related to the channel parameters and the transmission cost function, through the solutions of Riccati matrix equations, and moreover for unstable channels, feedback capacity is non-zero, provided the power exceeds a critical level.

研究动机与目标

• 表征具有记忆和反馈的MIMO高斯线性信道在有限时域内的反馈容量。
• 开发信息无损的随机化策略，以实现最优输入分布，从而最大化定向信息量。
• 建立最优策略中确定性与随机性分量之间的分离原理。
• 在不假设稳定性或遍历性的前提下，推导时不变信道的反馈容量。
• 将LQG控制理论推广至通信系统中定向信息收益的场景。

提出的方法

• 使用变分法和定向信息理论，推导最优信道输入条件分布。
• 应用信息无损的随机化策略以实现最优分布，将其分解为确定性和随机性部分。
• 利用LQG随机控制框架，将信道建模为具有状态空间动力学的线性随机系统。
• 求解黎卡提矩阵方程以表征反馈容量，特别是在无限时域极限下。
• 在时不变情况下，建立反馈容量与代数黎卡提方程解之间的联系。
• 利用卡尔曼滤波和估计理论，计算递归策略设计中的条件期望和协方差。

实验结果

研究问题

• RQ1 如何利用随机化策略在具有记忆的反馈信道中实现最优信道输入分布？
• RQ2 随机化策略在控制信道输出和传输新信息方面具有何种双重作用？
• RQ3 在时不变MIMO G-LCM中，反馈容量如何依赖于信道参数和传输代价？
• RQ4 是否可以在不假设信道过程稳定性或遍历性的前提下表征反馈容量？
• RQ5 在无限时域设置下，反馈容量与黎卡提方程解之间存在何种关系？

主要发现

• 最优信道输入分布通过信息无损的随机化策略实现，该策略可分解为确定性和随机性两部分。
• 随机化策略具有双重作用：控制信道输出过程并传输新信息，将LQG控制推广至定向信息场景。
• 存在分离原理：确定性部分可独立于随机性部分进行计算。
• 对于具有记忆的时不变MIMO G-LCM，当传输功率超过临界阈值时，反馈可提升容量，该阈值由黎卡提方程的解决定。
• 当功率超过临界水平时，即使信道不稳定，反馈容量仍为非零，该结论通过无限时域LQG理论得到验证。
• 反馈容量的表征无需事先假设输入/输出过程的稳定性或遍历性。