[论文解读] Zero-error feedback capacity via dynamic programming

Lei Zhao, Haim H. Permuter|ArXiv.org|Jul 11, 2009

Error Correcting Code Techniques参考文献 12被引用 3

一句话总结

本文提出一种动态规划（DP）框架，用于计算在收发两端均具备完整信道状态信息（CSI）的有限状态信道（FSC）的零错误反馈容量。通过将问题建模为两名玩家之间的随机博弈，该方法迭代计算容量的下界和上界，最终在极限情况下收敛至精确的零错误反馈容量。关键贡献在于推导出一个固定点方程（贝尔曼方程），使若干FSC实例可获得解析解，包括一个三状态信道，其容量约为1.1029比特/信道使用。

ABSTRACT

In this paper, we study the zero-error capacity for finite state channels with feedback when channel state information is known to both the transmitter and the receiver. We prove that the zero-error capacity in this case can be obtained through the solution of a dynamic programming problem. Each iteration of the dynamic programming provides lower and upper bounds on the zero-error capacity, and in the limit, the lower bound coincides with the zero-error feedback capacity. Furthermore, a sufficient condition for solving the dynamic programming problem is provided through a fixed-point equation. Analytical solutions for several examples are provided.

研究动机与目标

• 确定当发射端和接收端均具备完整信道状态信息（CSI）时，有限状态信道（FSC）的零错误反馈容量。
• 开发一种计算上可行的方法，用于评估记忆性信道中的零错误容量，其中传统容量公式不适用。
• 建立一种动态规划公式，通过迭代值迭代法生成零错误容量的紧致下界和上界。
• 推导一个固定点方程（贝尔曼方程），作为验证最优性的充分条件，并在特定情况下实现解析解。
• 在具体FSC实例（包括三状态信道）上展示该方法，并通过数值迭代与解析验证确认结果。

提出的方法

• 将零错误反馈容量问题建模为一个无限时域平均奖励动态规划（DP）问题，包含两名竞争玩家：编码器（玩家1）和信道（玩家2）。
• 使用值迭代法计算零错误容量的下界和上界序列，其中下界为 min_s J_n(s)/n，上界为 max_s J_n(s)/n。
• 应用平均奖励DP的贝尔曼方程：对每个状态s，有 ρ + J(s) = max_{P_X|S} min_y [ -log P_X|S(x|s) + J(s') ]，其中状态转移由信道转移概率决定。
• 从贝尔曼方程中推导出一个固定点方程，作为最优性的充分条件，从而实现解析解的推导。
• 采用数值值迭代法，结合离散化输入分布（例如分辨率10^-4）来估计容量并推测最优策略。
• 通过将推测的策略代入贝尔曼方程并确认其与计算所得容量的一致性，验证解析解的正确性。

实验结果

研究问题

• RQ1 能否通过动态规划计算具有完整CSI的有限状态信道的零错误反馈容量？
• RQ2 在具备反馈和CSI的条件下，最大化零错误通信速率的最优输入分布具有何种结构？
• RQ3 如何通过动态规划迭代计算零错误容量的紧致下界和上界？
• RQ4 从贝尔曼方程导出的固定点方程在何种条件下能给出精确的零错误容量？
• RQ5 能否利用所提出的DP框架为非平凡FSC推导出解析解？

主要发现

• 具有完整CSI的FSC的零错误反馈容量等于无限时域平均奖励动态规划问题的解。
• DP公式提供了零错误容量的下界和上界序列，这些序列在极限情况下收敛至真实容量。
• 对于示例1（带反馈的二元对称信道），零错误容量为1比特/信道使用，与理论界限一致。
• 对于示例2（两状态FSC），零错误容量被解析推导为 C₀ = 1.1029 毫特/信道使用，且通过值迭代实现数值验证。
• 对于示例3（三状态FSC），最优策略被发现为时不变且平稳的，得出的零错误容量约为1.102926比特/信道使用。
• 从贝尔曼方程导出的固定点方程成功验证了解析解，确认了所推导策略的最优性。