[論文レビュー] The single-serving channel capacity

Renato Renner, Stefan Wolf+1 more|ArXiv.org|Aug 3, 2006

Wireless Communication Security Techniques参考文献 10被引用数 5

ひとこと要約

この論文は、独立同分布（i.i.d.）の仮定が成り立たない非漸近的、1回使用の通信状況において、シャノンエントロピーに代えてスムーズなミニムムおよびマクシマムエントロピーを用いることで、ノイズのある通信路における1回使用での誤り確率がε以下であるときの最大ビット数（シングルセービングチャネル容量）を確立する。主な結果は、入力のスムーズミニムムエントロピーと出力が与えられたときの入力のスムーズマクシマムエントロピーの差のマキシマムミニマム化によって、容量が近似的に与えられることであり、これはi.i.d.仮定を超えた非漸近的、1回使用の通信容量の特徴付けを提供する。

ABSTRACT

In this paper we provide the answer to the following question: Given a noisy channel and epsilon>0, how many bits can be transmitted with an error of at most epsilon by a single use of the channel?

研究の動機と目的

• 独立同分布（i.i.d.）の仮定が成り立たない非漸近的、1回使用の通信状況において、シャノンエントロピーの限界を克服すること。
• ノイズのある通信路における1回使用で誤り確率がε以下であるときの最大ビット数を特徴付けること。
• 1回使用の通信容量の根本的指標として、シャノンエントロピーの代わりにスムーズなミニムムおよびマクシマムエントロピーを用いること。
• 情報理論的解析を漸近的かつi.i.d.の設定にとどめず、現実的で有限リソースの状況にまで拡張すること。

提案手法

• スムーズなミニムムおよびマクシマムエントロピーを、εの全変動距離内にある分布の上での最適化によって定義する。
• 出力が与えられたときの入力の不確実性を、条件付きスムーズミニムムエントロピー H^ε_min(X) およびスムーズマクシマムエントロピー H^ε_max(X|Y) を用いて測定する。
• シングルセービングチャネル容量を C^ε_comm(W) ≈ max_P_X [H^ε'_min(X) - H^ε''_max(X|Y)] として定式化し、log(1/ε) 項を含む誤差バインディングを導入する。
• 確率的議論とマルコフ不等式を組み合わせることで、符号設計における誤り確率を扱うために容量の境界を確立する。
• 容量を最大化する最適な入力分布が、符号帳の上での一様分布であり、最大確率を最小化し、スムーズミニムムエントロピーを最大化することを証明する。
• 滑らかさパラメータ ε', ε'' および ε₁, ε₂ について最適化することで、容量のタイトな上界および下界を導出する。

実験結果

リサーチクエスチョン

• RQ1 ノイズのある通信路において、1回使用で誤り確率がε以下であるとき、最大で何ビットの情報を伝送できるか？
• RQ2 スムーズなミニムムおよびマクシマムエントロピーは、1回使用通信容量を特徴付けるためにどのようにシャノンエントロピーに置き換えられるか？
• RQ3 i.i.d.極限において、シングルセービング容量と漸近的チャネル容量の関係は何か？
• RQ4 明示的な誤り依存性を伴うスムーズエントロピーを用いて、1回使用容量をバインドできるか？
• RQ5 入力分布の選択が、シングルセービング領域における実現可能なレートに与える影響は何か？

主な発見

• シングルセービングチャネル容量 C^ε_comm(W) は、下界として max_P_X [H^ε'_min(X) - H^ε''_max(X|Y)] - log(4ε/(ε - ε' - ε'')²) で抑えられ、タイトな下界が得られる。
• 容量は上界として max_P_X [H^ε₂_min(X) - H^(ε₁+ε₂+2ε)_max(X|Y)] + log(1/ε₁) で抑えられ、一致する上界が確立される。
• 容量を最大化する最適な入力分布は、符号帳上の一様分布であり、これはスムーズミニムムエントロピーを最大化し、誤り確率を最小化する。
• ε → 0 かつ使用回数 → ∞ の極限において、容量の式は漸近的チャネル容量に減少し、古典的な公式が回復される。
• スムーズエントロピーは、特に敵対的またはノイズが稀な事象を悪用できる状況において、シャノンエントロピーに比べてより正確な特徴付けを提供する。
• 境界は滑らかさパラメータ ε', ε'' および ε₁, ε₂ に依存しており、滑らかさプロセスにおける誤差許容度が直接的に実現可能なレートに影響することが示された。