[论文解读] Capacity of the Trapdoor Channel with Feedback

Haim H. Permuter, Paul Cuff+2 more|arXiv (Cornell University)|Oct 9, 2006

Computability, Logic, AI Algorithms参考文献 17被引用 7

一句话总结

本文通过将问题表述为无限时域平均奖励动态规划问题，确定了陷阱门信道的反馈容量为 log(φ)，其中 φ 为黄金分割率 (1+√5)/2。通过解析求解贝尔曼方程，提出了一种基于不含连续两个1的二进制序列的简单编码/解码方案，在反馈条件下实现了零误差通信。

ABSTRACT

We establish that the feedback capacity of the trapdoor channel is the logarithm of the golden ratio and provide a simple communication scheme that achieves capacity. As part of the analysis, we formulate a class of dynamic programs that characterize capacities of unifilar finite-state channels. The trapdoor channel is an instance that admits a simple analytic solution.

研究动机与目标

• 确定陷阱门信道的反馈容量，这是信息论中长期悬而未决的问题。
• 将不可逆有限状态信道（FSCs）的反馈容量表述为无限时域平均奖励动态规划问题。
• 针对陷阱门信道显式求解动态规划问题，并利用贝尔曼方程验证解的正确性。
• 设计一种简单且实用的编码/解码方案，以实现所推导出的容量。
• 将该框架推广至其他不可逆FSCs，并探讨陷阱门模型的推广形式。

提出的方法

• 使用定向信息和平均奖励动态规划方法，对不可逆FSCs的反馈容量进行建模。
• 将陷阱门信道建模为马尔可夫决策过程，其状态由前一个输入定义。
• 使用值迭代方法近似求解，并推测最优值函数的精确形式。
• 通过解析求解贝尔曼方程，验证所推测解的最优性。
• 基于不含连续两个1的二进制序列，构建一种实现容量的通信方案，利用受限编码技术。
• 证明该方案在反馈条件下可实现零误差通信，且即使在初始信道状态未知时也可进行调整。

实验结果

研究问题

• RQ1 鉴于陷阱门信道已有45年未解，其精确反馈容量是多少？
• RQ2 是否可以使用动态规划系统地表征不可逆FSCs的反馈容量？
• RQ3 陷阱门信道是否对其动态规划公式存在解析解？
• RQ4 能否设计一种简单且实用的通信方案，以实现陷阱门信道的反馈容量？
• RQ5 陷阱门信道的反馈容量与类似信道（如置换中继信道和干扰器信道）相比如何？

主要发现

• 陷阱门信道的反馈容量恰好为 log(φ)，其中 φ = (1+√5)/2 为黄金分割率。
• 不可逆FSCs的反馈容量的动态规划公式被证明为具有有限状态的马尔可夫决策过程的平均奖励问题。
• 通过解析求解贝尔曼方程，推导出陷阱门信道的最优值函数，从而确认容量为 log(φ)。
• 提出了一种简单编码/解码方案，将消息映射为不含连续两个1的二进制序列，实现了零误差通信。
• 该方案对未知初始信道状态具有鲁棒性，且平均仅需3.5次信道使用即可将信道刷新至已知状态。
• 尽管运行模型不同，陷阱门信道的反馈容量与置换中继信道及置换干扰器信道的反馈容量相等。