[论文解读] On the Structure of Real-Time Encoders and Decoders in a Multi-Terminal Communication System

Ashutosh Nayyar, Demosthenis Teneketzis|ArXiv.org|Oct 26, 2009

Wireless Communication Security Techniques参考文献 33被引用 18

一句话总结

本文研究了在多终端通信系统中，两个编码器观测一个马尔可夫源，并通过噪声通道向单一接收器传输信息时的实时分布式编码。研究证明，最优编码器和解码器具有有限维充分统计量；在无噪通道情况下，由于存在公共信息，存在时不变的充分统计量，从而实现对源状态函数的高效实时估计。

ABSTRACT

A real-time communication system with two encoders communicating with a single receiver over separate noisy channels is considered. The two encoders make distinct partial observations of a Markov source. Each encoder must encode its observations into a sequence of discrete symbols. The symbols are transmitted over noisy channels to a finite memory receiver that attempts to reconstruct some function of the state of the Markov source. Encoding and decoding must be done in real-time, that is, the distortion measure does not tolerate delays. Under the assumption that the encoders' observations are conditionally independent Markov chains given an unobserved time-invariant random variable, results on the structure of optimal real-time encoders and the receiver are obtained. It is shown that there exist finite-dimensional sufficient statistics for the encoders. The problem with noiseless channels and perfect memory at the receiver is then considered. A new methodology to find the structure of optimal real-time encoders is employed. A sufficient statistic with a time-invariant domain is found for this problem. This methodology exploits the presence of common information between the encoders and the receiver when communication is over noiseless channels.

研究动机与目标

• 开发适用于具有严格延迟约束的去中心化系统的实时通信理论，其中由于采用渐近假设，经典信息论不再适用。
• 分析一个双编码器、单解码器系统，其中每个编码器观测部分相关联的马尔可夫源，并通过噪声通道向接收器传输信息，以估计源状态的函数。
• 在非可分失真度量和给定隐藏状态后观测条件独立的条件下，刻画最优实时编码器与解码器的结构。
• 识别编码器与接收器的充分统计量，以实现实时决策，同时最小化内存与延迟。
• 通过利用编码器与接收器之间的公共信息，将结果扩展至无噪通道，推导出时不变的充分统计量。

提出的方法

• 作者将系统建模为一个去中心化控制问题，包含一个马尔可夫源，给定隐藏状态后编码器观测条件独立，接收器最小化非可分失真度量。
• 他们采用动态规划与充分统计量方法，推导出最优实时编码器与解码器的结构，证明编码器存在有限维统计量。
• 针对无噪通道，提出一种新方法，利用编码器与接收器之间的公共信息，为接收器构建一个时不变的充分统计量。
• 证明过程使用归纳法与条件期望论证，表明每一步时间的值函数仅依赖于有限维的信念状态。
• 关键组成部分包括使用信念状态 $\tilde{\xi}^{1}_{t-1}$、控制动作 $w^{1}_{t}$ 以及源和观测的马尔可夫性质。
• 分析依赖于若干引理，建立马尔可夫性质与条件独立性，以减少状态空间并证明充分统计量的最优性。

实验结果

研究问题

• RQ1 在具有相关马尔可夫源观测与噪声通道的双编码器、单解码器系统中，最优实时编码器与解码器的结构是什么？
• RQ2 在实时约束与非可分失真度量下，能否为编码器建立有限维充分统计量？
• RQ3 编码器与接收器之间存在的公共信息如何影响无噪通道中最优实时编码器的设计？
• RQ4 在无噪通道设置下，接收器的最小充分统计量是什么？它能否为时不变？
• RQ5 由于相关观测与非可分失真度量导致的编码器之间的耦合，如何影响最优编码策略？

主要发现

• 最优实时编码器具有有限维充分统计量，从而将编码问题简化为在紧致状态空间上的信念更新。
• 对于噪声通道，每个编码器的充分统计量是给定其自身观测与过去动作后隐藏状态的条件分布。
• 在无噪通道情况下，接收器存在一个时不变的充分统计量，从而实现内存高效的实时估计。
• 最优编码策略在信念状态上为马尔可夫性，决策仅依赖于当前信念，而不依赖于完整历史。
• 每一步时间的值函数有下界，其下界为信念状态的函数，且通过动态规划可实现最优策略。
• 利用无噪通道中公共信息的方法，导出的充分统计量与时间无关，从而简化了接收器的设计。