[论文解读] On Delayed Sequential Coding of Correlated Sources

Nan Ma, Ye Wang+1 more|ArXiv.org|Jan 30, 2007

Wireless Communication Security Techniques参考文献 16被引用 6

一句话总结

本文对具有帧延迟的关联源的延迟顺序编码中的率失真权衡提供了单字母信息论表征，特别针对视频编码中的帧延迟。结果表明，在特定条件下，采用一帧延迟的非因果解码的因果编码可实现与联合编码相同的和速率-均方误差性能，证明即使是最小的解码延迟，也能为具有均方误差失真度量的高斯-马尔可夫视频源带来显著增益。

ABSTRACT

Motivated by video coding applications, the problem of sequential coding of correlated sources with encoding and/or decoding frame-delays is studied. The fundamental tradeoffs between individual frame rates, individual frame distortions, and encoding/decoding frame-delays are derived in terms of a single-letter information-theoretic characterization of the rate-distortion region for general inter-frame source correlations and certain types of potentially frame specific and coupled single-letter fidelity criteria. The sum-rate-distortion region is characterized in terms of generalized directed information measures highlighting their role in delayed sequential source coding problems. For video sources which are spatially stationary memoryless and temporally Gauss-Markov, MSE frame distortions, and a sum-rate constraint, our results expose the optimality of idealized differential predictive coding among all causal sequential coders, when the encoder uses a positive rate to describe each frame. Somewhat surprisingly, causal sequential encoding with one-frame-delayed noncausal sequential decoding can exactly match the sum-rate-MSE performance of joint coding for all nontrivial MSE-tuples satisfying certain positive semi-definiteness conditions. Thus, even a single frame-delay holds potential for yielding significant performance improvements. Generalizations to higher order Markov sources are also presented and discussed. A rate-distortion performance equivalence between, causal sequential encoding with delayed noncausal sequential decoding, and, delayed noncausal sequential encoding with causal sequential decoding, is also established.

研究动机与目标

• 推导具有编码和/或解码帧延迟的关联源顺序编码的率失真区域的单字母表征。
• 量化在视频编码应用中，通过有限编码和解码延迟所能实现的性能增益。
• 在各种延迟配置下，比较因果、非因果和联合编码系统的根本极限。
• 建立延迟解码可匹配或逼近联合编码性能的条件。
• 将结果推广至高阶马尔可夫源和耦合失真准则。

提出的方法

• 使用广义定向信息度量来表征延迟顺序编码系统中的和速率-失真区域。
• 应用信息论工具，包括辅助随机变量和马尔可夫链约束，以推导单字母表达式。
• 采用基数界限定技术，限制辅助随机变量的大小，从而实现有限维表征。
• 利用连续性论证和子序列收敛性取极限，以建立最优分布的存在性。
• 考虑因果和非因果编码/解码情形，包括 C–NC、NC–C、NC–NC 和联合编码作为特例。
• 将通用框架特化至空间平稳无记忆源、时间上高斯-马尔可夫源，以及均方误差失真和和速率约束。

实验结果

研究问题

• RQ1 当引入编码和/或解码延迟时，关联源顺序编码中的基本率失真权衡是什么？
• RQ2 对于视频源，使用延迟非因果解码的因果编码器能否实现与联合编码相同的性能？
• RQ3 广义定向信息度量如何表征延迟顺序编码中的和速率-失真区域？
• RQ4 在具有强时间相关性的视频编码中，引入一帧解码延迟的性能增益是多少？
• RQ5 在率失真性能方面，因果编码与延迟非因果解码是否等价于非因果编码与因果解码？

主要发现

• 对于空间平稳无记忆、时间上高斯-马尔可夫的视频源，若均方误差元组满足特定半正定性条件，则采用一帧延迟非因果解码的因果顺序编码可实现与联合编码相同的和速率-均方误差性能。
• 当编码器对每帧使用正速率时，理想化差分预测编码（DPCM）在所有因果顺序编码器中被证明是最优的。
• 即使仅引入一帧解码延迟，也能在高度相关视频源的中低码率区域带来显著的性能提升。
• 在和速率-失真区域中，因果编码与延迟非因果解码和非因果编码与因果解码之间的性能等价性得到了正式确立。
• 所推导的率失真区域通过广义定向信息度量表征，这些度量在捕捉顺序编码中的延迟信息流方面起着核心作用。
• 最优解中辅助随机变量的基数受到限制，从而实现了率失真区域的有限维表征。