[论文解读] Construction of a Channel Code from an Arbitrary Source Code with Decoder Side Information

Jun Muramatsu, Shigeki Miyake|arXiv (Cornell University)|Jan 22, 2016

DNA and Biological Computing参考文献 33被引用 4

一句话总结

该论文提出了一种新颖方法，通过任意源码与译码器端信息，利用受限随机数生成器实现随机化信道编码器，构建一种信道编码。关键贡献在于，任何实现低译码错误概率的源码均可被转换为实现容量的信道码，而无需使用典型集合或最大似然译码。

ABSTRACT

The construction of a channel code by using a source code with decoder side information is introduced. For the construction, any pair of encoder and decoder is available for a source code with decoder side information. A constrained-random-number generator, which generates random numbers satisfying a condition specified by a function and its value, is used to construct a stochastic channel encoder. The result suggests that we can divide the channel coding problem into the problems of channel encoding and source decoding with side information.

研究动机与目标

• 建立一个通用框架，用于从具有译码器端信息的任意源码构造信道码。
• 通过实现源码到信道码的直接转换，消除在源码设计中对典型集合或最大似然译码的需求。
• 利用受限随机数生成器提供一种可实现的编码机制，确保实际可实施性。
• 通过证明源码的容量达成特性可推出信道码的容量达成特性，统一信道编码与带端信息的源编码。
• 证明该构造适用于任何实现低译码错误概率的源码，无论其采用何种译码策略。

提出的方法

• 利用受限随机数生成器实现基于端信息将消息映射到信道输入的随机化信道编码器。
• 通过将源编码器重新解释为信道编码器，将源解码器重新解释为带端信息的信道解码器，将给定的源码（编码器-解码器对）转换为信道码。
• 基于后验分布 $ p_{U|V} $ 采用随机决策规则，确保错误概率不超过最大后验概率（MAP）译码器的两倍。
• 应用 $ 2 $-通用哈希函数及其扩展，确保该构造在不同源码结构下均具有鲁棒性和通用性。
• 使用条件谱上熵率 $ ar{H}(oldsymbol{X}|oldsymbol{Y}) $ 作为基本极限，表明在源编码中实现该速率即意味着在信道编码中实现容量性能。
• 证明该构造独立于源码中使用的具体译码算法，只要错误概率足够低即可。

实验结果

研究问题

• RQ1 任何具有译码器端信息的源码是否都能被转换为实现信道容量的信道码？
• RQ2 是否存在一种可实现且通用的编码机制，使得此类转换无需依赖典型集合或最大似然译码？
• RQ3 源码的错误概率与所得信道码性能之间存在何种关系？
• RQ4 该构造是否可应用于非二进制或非对称信道，而无需假设对称相关性？
• RQ5 基于受限随机数生成的随机化编码器是否能保持或改善原始源码的错误性能？

主要发现

• 任何实现接近零译码错误概率的具有译码器端信息的源码，均可被转换为实现信道容量的信道码。
• 所提方法利用受限随机数生成器构建随机化信道编码器，使构造既具通用性又具备可实现性。
• 所得信道码的错误概率受源码最大后验概率译码器错误概率的两倍以内，确保鲁棒性。
• 该构造无需在源码中使用典型集合或最大似然译码，因此可直接应用任何实用或经验验证的源码。
• 该方法通过证明源编码中的基本极限 $ ar{H}(oldsymbol{X}|oldsymbol{Y}) $ 在 $ oldsymbol{X} $ 为信道输入、$ oldsymbol{Y} $ 为输出时对应于信道容量，实现了源编码与信道编码的统一。
• 该方法适用于一般相关源，包括非平稳和非遍历情形，突破了经典Slepian-Wolf与Shannon理论的假设限制。