[论文解读] Coding for Computing Irreducible Markovian Functions of Sources with Memory

Sheng Huang, Mikael Skoglund|arXiv (Cornell University)|May 25, 2013

Wireless Communication Security Techniques参考文献 16被引用 4

一句话总结

本文提出在有限环上使用线性编码来计算带有记忆源的不可约马尔可夫函数，利用多项式结构实现隐式协作。结果表明，非域环在可实现速率区域方面普遍优于有限域，即使在非遍历场景下也是如此，证明在某些函数上，环上的线性编码严格优于域上的线性编码。

ABSTRACT

One open problem in source coding is to characterize the limits of representing losslessly a non-identity discrete function of the data encoded independently by the encoders of several correlated sources with memory. This paper investigates this problem under Markovian conditions, namely either the sources or the functions considered are Markovian. We propose using linear mappings over finite rings as encoders. If the function considered admits certain polynomial structure, the linear encoders can make use of this structure to establish "implicit collaboration" and boost the performance. In fact, this approach universally applies to any scenario (arbitrary function) because any discrete function admits a polynomial presentation of required format. There are several useful discoveries in the paper. The first says that linear encoder over non-field ring can be equally optimal for compressing data generated by an irreducible Markov source. Secondly, regarding the previous function-encoding problem, there are infinitely many circumstances where linear encoder over non-field ring strictly outperforms its field counterpart. To be more precise, it is seen that the set of coding rates achieved by linear encoder over certain non-field rings is strictly larger than the one achieved by the field version, regardless which finite field is considered. Therefore, in this sense, linear coding over finite field is not optimal. In addition, for certain scenarios where the sources do not possess the ergodic property, our ring approach is still able to offer a solution.

研究动机与目标

• 表征带有记忆的相关源的离散函数计算的可实现编码速率区域。
• 研究有限环上的线性编码器是否能在函数计算中优于有限域上的线性编码器。
• 建立基于环的线性编码在速率区域上严格大于基于域的对应方法的条件。
• 通过利用函数的多项式表示，将源编码理论扩展至非遍历、马尔可夫源。
• 通过多项式表示证明基于环的线性编码在任意离散函数上的普遍性和最优性。

提出的方法

• 作者使用有限环上的线性映射作为编码器，利用离散函数的多项式结构，实现编码器之间的隐式协作。
• 他们将任意离散函数表示为有限环上的多项式，从而实现捕捉函数依赖关系的结构化编码。
• 该方法利用源过程的不可约性和马尔可夫性质，定义典型序列和熵界。
• 通过分析马尔可夫过程的联合典型性和熵速率，推导出典型集大小的上界，从而实现速率区域的表征。
• 他们比较了在有限域和非域环上的可实现速率区域，证明在无穷多种情况下，基于环的速率区域严格更大。
• 该证明依赖于在马尔可夫假设下的熵速率分解和典型序列分析，利用块熵的极限来表征源的不确定性。

实验结果

研究问题

• RQ1 在计算带有记忆的源的函数时，有限环上的线性编码是否能实现优于有限域上的性能？
• RQ2 是否存在一种情形，使得非域环上的线性编码器的可实现速率区域严格大于任何有限域的速率区域？
• RQ3 所提出的基于环的编码方法在非遍历马尔可夫源上是否依然有效？
• RQ4 是否每个离散函数都能以适合基于环的线性编码的多项式形式表示？
• RQ5 函数的结构与使用非域环带来的性能增益之间存在何种关系？

主要发现

• 对于不可约马尔可夫源，非域有限环上的线性编码器与有限域上的线性编码器具有相同的最优性。
• 存在无穷多种情形，使得在非域环上进行线性编码严格优于在任何有限域上进行线性编码，其可实现速率区域更大。
• 使用某些非域环上的线性编码器可实现的编码速率集合，严格大于在任何有限域上可实现的速率集合，证明基于域的编码在一般情况下并非最优。
• 由于有限环上存在多项式表示，该方法可普遍适用于任意离散函数。
• 即使源不具有遍历性，该基于环的方法依然有效，从而将适用范围扩展至标准Slepian–Wolf假设之外。
• 通过典型序列分析对源过程的熵速率进行有界处理，结果表明在非遍历情况下，所得速率区域比Slepian–Wolf的内界更紧。