[論文レビュー] Sequential decoding for lossless streaming source coding with side information

Hari Palaiyanur, Anant Sahai|ArXiv.org|Mar 23, 2007

Wireless Communication Security Techniques参考文献 25被引用数 5

ひとこと要約

本稿では、ランダムな時間変動型ツリー符号と可変バイアスを用いたスタックアルゴリズムを用いた逐次符号化方式を提案し、復号器に側情報が存在する場合の無損失ストリーミングソース符号化を実現する。この方式は遅延に伴い誤り確率が指数関数的に減少し、ギャラッジャーのランダム符号化指数と一致する。また、適切なバイアス設定のもとで計算量のモーメントが有限であることを保証し、同様の性能保証を備えた共同ソース・チャネル符号化へと拡張可能である。

ABSTRACT

The problem of lossless fixed-rate streaming coding of discrete memoryless sources with side information at the decoder is studied. A random time-varying tree-code is used to sequentially bin strings and a Stack Algorithm with a variable bias uses the side information to give a delay-universal coding system for lossless source coding with side information. The scheme is shown to give exponentially decaying probability of error with delay, with exponent equal to Gallager's random coding exponent for sources with side information. The mean of the random variable of computation for the stack decoder is bounded, and conditions on the bias are given to guarantee a finite $ρ^{th}$ moment for $0 \leq ρ\leq 1$. Further, the problem is also studied in the case where there is a discrete memoryless channel between encoder and decoder. The same scheme is slightly modified to give a joint-source channel encoder and Stack Algorithm-based sequential decoder using side information. Again, by a suitable choice of bias, the probability of error decays exponentially with delay and the random variable of computation has a finite mean. Simulation results for several examples are given.

研究の動機と目的

• 側情報が復号器にのみ存在する状況下で、遅延に依存しない固定レートの無損失ソース符号化システムを設計すること。
• 側情報付きソースに対して、逐次符号化を用いてギャラッジャーのランダム符号化指数と一致する誤り指数を達成すること。
• 可変バイアス下でのスタックアルゴリズムにおける計算量の確率変数の平均および高次モーメントを制限すること。
• 共同ソース・チャネル符号化にこの方式を拡張し、指数関数的誤り減少と有限計算量モーメントを維持すること。
• 計算量のモーメントが有限であり、かつ正の誤り指数を達成するためのバイアスパラメータの条件を提供すること。

提案手法

• 符号化器に側情報が存在しない状況下で固定レート圧縮を実現するために、ランダムな時間変動型ツリー符号を用いて逐次的にソース文字列をビン分割する。
• 復号器で可変バイアスパラメータを用いたスタックアルゴリズムを採用し、側情報を活用して逐次的にソース系列を復号する。
• バイアスは誤り指数と計算量のモーメントのバランスを取るために調整され、ギャラッジャーの誤り指数フレームワークを用いて理論的境界が導出される。
• 主要な式には、条件付きエントロピーと尤度比に基づいて導出された誤り指数項 $ E_{si}\left(\theta\right) $, $ F_{si}\left(\theta\right) $, および $ G_{si}\left(\theta\right) $ が含まれる。
• 共同ソース・チャネル符号化の場合は、$ E_0\left(\theta\right) $, $ F\left(\theta\right) $, および $ G\left(\theta\right) $ を用いてチャネルの信頼性を統合し、バイアスを調整して性能を維持する。
• ジェンセンの不等式と対数関数の厳密な凹性を用いて、$ 0 \leq \rho \leq 1 $ の範囲で $ \rho $-次モーメントが有限であることを保証する厳密な不等式が導出される。

実験結果

リサーチクエスチョン

• RQ1 可変バイアスを用いた逐次復号方式は、復号器にのみ側情報が存在する無損失ソース符号化において、遅延に伴い誤り確率が指数関数的に減少するか？
• RQ2 計算量の確率変数の $ \rho $-次モーメント（$ 0 \leq \rho \leq 1 $）が有限であるためのバイアスパラメータの条件は何か？
• RQ3 この方式は、側情報付きの共同ソース・チャネル符号化に拡張可能であり、指数関数的誤り減少と有限計算量モーメントを維持できるか？
• RQ4 提案方式の誤り指数は、側情報付きソースに対してギャラッジャーのランダム符号化指数と等価か？
• RQ5 バイアス $ G^* = \frac{1+\gamma}{\gamma}\left[E_{si}(\gamma) - F_{si}(\gamma)\right] $ を選択した場合、正の誤り指数と有限の $ \gamma $-次計算量モーメントが両方得られるか？

主な発見

• 提案方式は、遅延に伴い誤り確率が指数関数的に減少し、その指数は側情報付きソースにおけるギャラッジャーのランダム符号化指数と等しい。
• 適切なバイアス設定のもとで、スタック復号器における計算量の確率変数の平均は有界である。
• $ 0 \leq \rho \leq 1 $ の範囲で、バイアスが空でない開区間 $ \left( \frac{1+\gamma}{\gamma}G_{si}(\gamma), \frac{1+\gamma}{\gamma}(\gamma R - F_{si}(\gamma)) \right) $ の内側にある場合、計算量の $ \rho $-次モーメントは有限である。
• 共同ソース・チャネル符号化の状況では、$ \lambda E_0(\gamma) > E_{si}(\gamma) $ を満たす限り、同様のバイアス領域が指数関数的誤り減少と有限計算量モーメントを保証する。
• 最適バイアス $ G^* = \frac{1+\gamma}{\gamma}\left[E_{si}(\gamma) - F_{si}(\gamma)\right] $ は、$ U $ が少なくとも1つの $ v \in \mathcal{V} $ に対して $ v $ を条件とするとき、正の誤り指数と有限の $ \gamma $-次計算量モーメントを両方達成する。
• 対数関数の厳密な凹性と非決定的ソースの性質により、$ G_{si}(\gamma) + F_{si}(\gamma) < E_{si}(\gamma) $ が成り立ち、結果としてバイアスの区間が空でないことが保証される。