[论文解读] Control-theoretic Approach to Communication with Feedback: Fundamental Limits and Code Design

Ehsan Ardestanizadeh, Massimo Franceschetti|arXiv (Cornell University)|Jun 28, 2010

Control Systems and Identification参考文献 31被引用 5

一句话总结

该论文通过将编码器映射为动态系统中的控制器，建立了反馈通信的控制理论框架，其中信道反馈充当状态反馈。在充分条件下，该研究证明了MMSE容量（即均方误差的指数衰减率）等于信息论意义上的反馈容量；对于高斯信道，反馈容量等于在功率约束下可稳定的最大不稳定度，且Kramer的和速率最优多址接入（MAC）码可通过LQG控制恢复。

ABSTRACT

Feedback communication is studied from a control-theoretic perspective, mapping the communication problem to a control problem in which the control signal is received through the same noisy channel as in the communication problem, and the (nonlinear and time-varying) dynamics of the system determine a subclass of encoders available at the transmitter. The MMSE capacity is defined to be the supremum exponential decay rate of the mean square decoding error. This is upper bounded by the information-theoretic feedback capacity, which is the supremum of the achievable rates. A sufficient condition is provided under which the upper bound holds with equality. For the special class of stationary Gaussian channels, a simple application of Bode's integral formula shows that the feedback capacity, recently characterized by Kim, is equal to the maximum instability that can be tolerated by the controller under a given power constraint. Finally, the control mapping is generalized to the N-sender AWGN multiple access channel. It is shown that Kramer's code for this channel, which is known to be sum rate optimal in the class of generalized linear feedback codes, can be obtained by solving a linear quadratic Gaussian control problem.

研究动机与目标

• 通过将反馈通信重新解释为具有噪声状态反馈的控制问题，弥合信息论与控制理论之间的鸿沟。
• 定义并分析MMSE容量作为反馈系统中均方误差衰减率的指数衰减率。
• 建立MMSE容量等于信息论反馈容量的条件，特别是针对高斯信道。
• 将控制理论映射推广至N发送端的AWGN多址接入信道，并通过LQG控制恢复已知的最优码。
• 证明最优反馈码可系统性地利用控制理论工具（如Bode积分公式和LQG优化）推导。

提出的方法

• 将反馈通信系统映射为非线性、时变的受控动态系统，其中消息为初始状态，信道输出提供反馈。
• 将控制器的动作定义为编码器的发送符号，控制器的策略对应编码器的因果策略。
• 将原始消息与估计值之间的均方误差（MSE）作为控制问题的最终代价。
• 利用系统状态作为充分统计量：$ S_i = (M, F_{M|Y^{i-1}}(\cdot|Y^{i-1})) $，捕捉消息的后验分布。
• 对于高斯信道，应用离散时间Bode积分公式，证明在给定功率约束下，反馈容量等于控制器可容忍的最大不稳定度。
• 对于N用户AWGN多址接入信道，将问题简化为具有二次代价的单点对点LQG控制问题，从而恢复Kramer的广义线性反馈码作为最优解。

实验结果

研究问题

• RQ1 反馈通信能否通过控制理论视角系统分析，将编码器视为控制器？
• RQ2 在何种条件下，MMSE容量（即误差指数衰减率）等于信息论反馈容量？
• RQ3 平稳高斯信道的反馈容量如何与控制器可稳定性和功率约束相关联？
• RQ4 能否从LQG控制公式推导出N用户AWGN多址接入信道的最优反馈码？
• RQ5 信息模式在降低控制系统的状态空间大小的同时，如何保持最优性？

主要发现

• MMSE容量受信息论反馈容量的上界约束，当控制器与信道结构满足充分条件时，等式成立。
• 对于平稳高斯信道，反馈容量等于在给定功率约束下线性控制器可稳定的最大不稳定度，该结果通过Bode积分公式推导得出。
• Kramer在N用户AWGN多址接入信道中的和速率最优码，可作为具有功率代价目标的线性二次高斯（LQG）控制问题的解被恢复。
• 一般反馈信道的最优编码器对应于其状态仅依赖于消息后验分布 $ F_{M|Y^{i-1}}(\cdot|Y^{i-1}) $ 的控制器，而非完整历史记录。
• 控制理论框架为推导与分析反馈码提供了统一方法，明确关联了稳定性与估计误差动态。
• 该框架推广了先前结果：将Elia的工作扩展至N > 2用户场景，并采用LQG控制替代Youla参数化，提供了更具可扩展性与可解释性的设计方法。