[論文レビュー] Optimum Trade-offs Between the Error Exponent and the Excess-Rate Exponent of Variable-Rate Slepian-Wolf Coding

Nir Weinberger, Neri Merhav|arXiv (Cornell University)|Jan 5, 2014

Wireless Communication Security Techniques参考文献 25被引用数 7

ひとこと要約

本稿では、タイプベース符号化を用いてタイトな上限（逆問題）および下限（達成可能性）を導出することにより、可変レートSlepian-Wolf符号化における誤り指数と超過レート指数の最適なトレードオフを確立している。主な貢献は、タイプクラス均一レート割り当てが、固定レート（低超過レート）と平均レート（高信頼性）符号化の間でバランスの取れた性能を達成することを体系的に示したことである。これにより、反復的アルゴリズムを用いてレート関数および超過レート指数の明示的境界が得られる。

ABSTRACT

We analyze the optimal trade-off between the error exponent and the excess-rate exponent for variable-rate Slepian-Wolf codes. In particular, we first derive upper (converse) bounds on the optimal error and excess-rate exponents, and then lower (achievable) bounds, via a simple class of variable-rate codes which assign the same rate to all source blocks of the same type class. Then, using the exponent bounds, we derive bounds on the optimal rate functions, namely, the minimal rate assigned to each type class, needed in order to achieve a given target error exponent. The resulting excess-rate exponent is then evaluated. Iterative algorithms are provided for the computation of both bounds on the optimal rate functions and their excess-rate exponents. The resulting Slepian-Wolf codes bridge between the two extremes of fixed-rate coding, which has minimal error exponent and maximal excess-rate exponent, and average-rate coding, which has maximal error exponent and minimal excess-rate exponent.

研究の動機と目的

• 可変レートSlepian-Wolf符号化における誤り指数と超過レート指数の根本的トレードオフを分析すること。
• 一般可変レート符号の最適誤り指数および超過レート指数の上限（逆問題）および下限（達成可能性）を導出すること。
• 所望の誤り指数を達成するために必要なタイプクラスごとの最小レート関数を特定し、それによる超過レート指数を評価すること。
• 固定レート符号化（最小の超過レート、低誤り指数）と平均レート符号化（最大の誤り指数、最小の超過レート）の性能ギャップを統一的フレームワークにより埋めること。

提案手法

• 情報スペクトル法とタイプクラス解析に基づく一般逆問題アプローチを用いて、誤り指数および超過レート指数の上限を導出する。
• 同じタイプクラスに属するすべてのソースブロックに同一のレートを割り当てる可変レートSlepian-Wolf符号のクラスを提案し、達成可能性解析を容易にする。
• タイプ依存レートを用いたランダムビニングを用いて、誤り指数および超過レート指数の下限を導出し、従来の平均レート符号化結果を一般化する。
• 変分法および発散最小化技術（Minkowskiの不等式の変種およびパラメトリック発散関数 $ D(Q_\alpha \| P_1) $ を含む）を用いて、タイトな指数境界を導出する。
• 交互最小化に基づく反復的アルゴリズムを用いて、最適レート関数およびそれに対応する超過レート指数の上限と下限を計算する。
• 発散 $ D(Q_\alpha \| P_1) $ が $ \alpha $ の関数として連続的かつ単調であることを確立し、収束性および最適化に不可欠な性質を示す。

実験結果

リサーチクエスチョン

• RQ1 可変レートSlepian-Wolf符号化における誤り指数と超過レート指数の根本的トレードオフは何か？
• RQ2 所望の目標誤り指数を達成するために必要なタイプクラスごとの最小レート関数はどのように特定できるか？ これにより超過レート確率を最小化できるか？
• RQ3 タイプベース符号化スキームは、固定レート符号化や平均レート符号化と比較して、信頼性とレートオーバーフローのバランスをどのように改善できるか？
• RQ4 可変レートSlepian-Wolf符号に対して、誤り指数および超過レート指数のタイトな達成可能な上限と下限は何か？
• RQ5 最適レート関数およびそれに対応する超過レート指数をどのようにして効率的に計算できるか？

主な発見

• 本稿では、タイプクラス均一レート割り当てが、固定レート符号化と平均レート符号化の間でバランスの取れた性能を達成でき、誤り指数と超過レート指数の連続的トレードオフを実現することを確立している。
• 誤り指数および超過レート指数の上限と下限が導出され、特定のソースクラスでは両者が極限で一致しており、提案されたスキームの最適性を示している。
• 目標誤り指数を達成するために必要なタイプクラスごとの最小レート関数は、凸最適化問題として特徴付けられ、反復的アルゴリズムにより解ける。
• 提案された符号クラスにおいて、超過レート指数が正であることが示されており、これにより与えられたレート割り当て下でレートオーバーフローが指数的に起こりにくくなる。
• 従来の平均レートSlepian-Wolf符号化結果を、バッファ制約付きシステムにとって重要な超過レート制約を組み込むことで一般化している。
• 交互最小化に基づく反復的アルゴリズムが、最適レート関数およびそれに対応する超過レート指数を高精度で計算するのに有効であることが証明された。