[論文レビュー] Asymptotics of Input-Constrained Erasure Channel Capacity

Yonglong Li, Guangyue Han|arXiv (Cornell University)|May 7, 2016

Cellular Automata and Applications参考文献 47被引用数 4

ひとこと要約

本稿は、入力制約付き消去チャネルの漸近的容量を調査し、有限型制約をもつ一般の無記憶消去チャネルに対して部分的漸近解を導出し、(1,∞)-RLL制約下での一階マルコフ入力を持つ2値消去チャネルに対しては完全な漸近解を得た。フィードバックが無記憶消去チャネルでさえも容量を向上させることを示し、このような設定ではフィードバックが役立たないという従来の考え方に挑戦している。

ABSTRACT

In this paper, we examine an input-constrained erasure channel and we characterize the asymptotics of its capacity when the erasure rate is low. More specifically, for a general memoryless erasure channel with its input supported on an irreducible finite-type constraint, we derive partial asymptotics of its capacity, using some series expansion type formulas of its mutual information rate; and for a binary erasure channel with its first-order Markovian input supported on the $(1, \infty)$-RLL constraint, based on the concavity of its mutual information rate with respect to some parameterization of the input, we numerically evaluate its first-order Markov capacity and further derive its full asymptotics. The asymptotics obtained in this paper, when compared with the recently derived feedback capacity for a binary erasure channel with the same input constraint, enable us to draw the conclusion that feedback may increase the capacity of an input-constrained channel, even if the channel is memoryless.

研究の動機と目的

• εが小さいときの入力制約付き消去チャネルの容量の漸近的挙動を特定すること。
• 系列展開を用いた相互情報量レートの展開により、非可約有限型制約をもつ一般の無記憶消去チャネルの部分的漸近解を導出すること。
• (1,∞)-RLL制約下での2値消去チャネルに対して、一階マルコフ容量と完全な漸近解を、凸性に基づく数値評価により計算すること。
• 同じ入力制約下でフィードバック容量と非フィードバック容量を比較し、フィードバックが容量向上に寄与するかどうかを評価すること。
• 入力制約付き無記憶チャネルではフィードバックが容量を向上させないという一般的な見解に反論すること。

提案手法

• 相互情報量レートの系列展開式を用いて、一般の入力制約付き無記憶消去チャネルの容量の部分的漸近解を導出する。
• 入力パrameterizationに関する相互情報量レートの凸性を活用し、(1,∞)-RLL制約下での2値消去チャネルの第一階マルコフ容量を数値的に評価する。
• 変分法とエントロピー鎖則を用いてフィードバック容量を評価し、入力に制約がない場合、フィードバック容量が(1−ε)log Kで上界づけられることを示す。
• チャネル出力がYn = XnEn（Eiはi.i.d.にBernoulli(1−ε)に従う）であるという事実を活用し、情報理論的境界を導出する。
• 有限型制約の構造とその位相的順序を活用し、入力のサポートと容量の限界を分析する。
• エントロピー分解を用いて容量の境界を導出し、出力分布における消去と非消去寄与を分離する。

実験結果

リサーチクエスチョン

• RQ1 ε→0 のとき、非可約有限型制約に従う入力制約付き無記憶消去チャネルの漸近的容量は何か？
• RQ2 (1,∞)-RLL入力制約をもつ2値消去チャネルに対して、容量の完全な漸近展開を導出できるか？
• RQ3 チャネルが無記憶であるにもかかわらず、入力制約付き無記憶消去チャネルではフィードバックが容量を向上させるか？
• RQ4 (1,∞)-RLL制約付き2値消去チャネルにおける、パラメータ化された第一階マルコフ入力の下での相互情報量レートの挙動はいかなるものか？
• RQ5 同じ入力制約下で、フィードバック容量と非フィードバック容量の関係は何か？

主な発見

• 一般の入力制約付き無記憶消去チャネルに対して、相互情報量レートの系列展開を用いて容量の部分的漸近解が得られた。
• (1,∞)-RLL制約と第一階マルコフ入力を持つ2値消去チャネルに対しては、相互情報量レートの凸性を用いて第一階マルコフ容量が数値的に評価され、完全な漸近解が導出された。
• 入力に制約のない2値消去チャネルのフィードバック容量は、(1−ε)log Kで上界づけられ、非フィードバック容量と一致することが示された。
• チャネルが無記憶であるにもかかわらず、入力制約が課せられることでフィードバックが容量を向上させることを示し、非自明な容量向上が得られた。
• (1,∞)-RLL制約付き2値消去チャネルにおいて、フィードバックによる漸近的容量は非フィードバック容量を上回り、無記憶チャネルではフィードバックが役立たないという一般的な直観に反する。
• 結果は、入力制約が無記憶消去チャネルにおいてもフィードバックの有用性を生む可能性を確認しており、記憶、制約、フィードバックの間の微妙な相互作用を浮き彫りにしている。