[论文解读] On Optimal Causal Coding of Partially Observed Markov Sources in Single and Multi-Terminal Settings

Serdar Yüksel|arXiv (Cornell University)|Oct 22, 2010

Wireless Communication Security Techniques参考文献 38被引用 4

一句话总结

本文在单终端与多终端设置下，建立了对部分观测马尔可夫信源最优因果编码的结构性结果，将 Witsenhausen 与 Walrand-Varaiya 的框架扩展至一般状态空间。对于独立同分布信源，证明了最优分布式因果编码是无记忆的，并构造了一个反例，推翻了马尔可夫设置下自然分离猜想的成立。

ABSTRACT

The optimal causal coding of a partially observed Markov process is studied, where the cost to be minimized is a bounded, non-negative, additive, measurable single-letter function of the source and the receiver output. A structural result is obtained extending Witsenhausen's and Walrand-Varaiya's structural results on optimal real-time coders to a partially observed setting. The decentralized (multi-terminal) setup is also considered. For the case where the source is an i.i.d. process, it is shown that the optimal decentralized causal coding of correlated observations problem admits a solution which is memoryless. For Markov sources, a counterexample to a natural separation conjecture is presented.

研究动机与目标

• 将最优因果编码器的结构性结果从完全观测系统扩展至具有通用状态空间的部分观测马尔可夫过程。
• 分析在部分观测下具有反馈和有限容量信道的分布式（多终端）因果编码问题。
• 研究在部分观测马尔可夫设置下，是否存在一种分离原理——即估计与编码可独立设计。
• 确定最优编码策略为无记忆的条件，特别是针对独立同分布信源。
• 解决在具有非对称信息与延迟反馈的团队决策问题中，最优策略结构的开放问题。

提出的方法

• 形式化一个具有部分观测马尔可夫信源的因果编码问题，编码器观测到状态的噪声版本，并需实时量化。
• 引入一种组合量化策略，结合局部信息与公共（反馈）信息，采用马尔可夫决策过程（MDP）框架。
• 采用团队决策理论方法，将策略分解为量化选择策略与量化动作，以实现结构性分析。
• 应用动态规划与充分统计量方法，证明最优策略仅依赖于给定过去量化输出的后验状态分布。
• 推导出仅依赖于公共信息（过去量化输出）与局部观测的策略结构，证明其与受限策略类等价。
• 采用时间阶段的逆向归纳法，证明每个时间点的最优量化器仅依赖于当前后验分布与过去量化动作。

实验结果

研究问题

• RQ1 能否将此前仅适用于完全观测系统的最优因果编码器结构性结果，推广至具有通用状态空间的部分观测马尔可夫过程？
• RQ2 在具有非对称信息与反馈的分布式多终端设置下，因果编码策略的最优结构是什么？
• RQ3 当信源为独立同分布时，即使在部分观测下，最优因果编码策略是否仍为无记忆？
• RQ4 在部分观测马尔可夫信源的因果编码中，是否存在分离原理——即估计与编码可分离？
• RQ5 在具有噪声观测与反馈的因果分布式设置下，最优编码策略的最小充分统计量是什么？

主要发现

• 部分观测马尔可夫信源的最优因果编码器仅依赖于给定过去量化输出与局部观测的后验状态分布。
• 对于独立同分布信源，最优分布式因果编码策略为无记忆策略，即每个时间点的量化器仅依赖于当前局部观测与过去量化输出。
• 构造了一个反例，表明自然分离猜想——即估计与编码可分离——在马尔可夫信源的因果编码中不成立。
• 最优策略结构被证明等价于仅依赖于公共信息（过去量化输出）与局部观测的受限策略类。
• 由于受限策略类中策略空间的有限性，最优策略的存在性得以保证，可通过动态规划构造解。
• 每个时间阶段的成本函数可表示为给定过去量化输出的观测后验分布的可测函数，从而确认该统计量的充分性。