[論文レビュー] Capacity-Achieving Codes with Bounded Graphical Complexity on Noisy Channels

Chun-Hao Hsu, Achilleas Anastasopoulos|arXiv (Cornell University)|Sep 19, 2005

Error Correcting Code Techniques被引用数 14

ひとこと要約

本稿では、外側にLDPCコード、内側にレート1のLDGMコードを用いたコンカタネートコードであるLDPC-GMコードを提案する。このコードは、最大尤度復号化においてグラフィカルな複雑性が有界な状態で、任意の無記憶的バイナリ入力出力対称（MBIOS）チャネル上で容量を達成する。内側のLDGMコードはLDPCコード内の高重みコドワードを抑圧するが、低重みコドワードの数をほとんど維持する。これにより、コード集合は漸近的にギルバート＝ヴァルシャモフ境界に近づき、バイナリエラージャーチャネル（BEC）においては、1ビットあたりの復号化複雑性が定数で容量を達成する。

ABSTRACT

We introduce a new family of concatenated codes with an outer low-density parity-check (LDPC) code and an inner low-density generator matrix (LDGM) code, and prove that these codes can achieve capacity under any memoryless binary-input output-symmetric (MBIOS) channel using maximum-likelihood (ML) decoding with bounded graphical complexity, i.e., the number of edges per information bit in their graphical representation is bounded. In particular, we also show that these codes can achieve capacity on the binary erasure channel (BEC) under belief propagation (BP) decoding with bounded decoding complexity per information bit per iteration for all erasure probabilities in (0, 1). By deriving and analyzing the average weight distribution (AWD) and the corresponding asymptotic growth rate of these codes with a rate-1 inner LDGM code, we also show that these codes achieve the Gilbert-Varshamov bound with asymptotically high probability. This result can be attributed to the presence of the inner rate-1 LDGM code, which is demonstrated to help eliminate high weight codewords in the LDPC code while maintaining a vanishingly small amount of low weight codewords.

研究の動機と目的

• 無記憶的バイナリ入力出力対称（MBIOS）チャネル上で、グラフィカルな複雑性が有界な容量達成コードの設計。
• BECを除く一般のMBIOSチャネルにおいて、有界なグラフィカル複雑性が容量を達成できるかどうかという未解決問題に取り組む。
• コンカタネートLDPC-GMコードの平均重み分布（AWD）を分析し、その漸近的成長率がギルバート＝ヴァルシャモフ境界に近づくことを示す。
• BECにおいて、信念伝播（BP）復号化による1情報ビットあたりの復号化複雑性が有界な状態で、これらのコードが容量を達成することを実証する。
• 密度発展に依存しない、容量達成イテレーティブ復号化のための必要条件を提示する。密度発展は一般のMBIOSチャネルでは不適切である。

提案手法

• 外側にLDPCコード、内側にレート1のLDGMコードを用いたコンカタネートLDPC-GMコードの族を構築する。
• LDPC-GM集合の平均重み分布（AWD）を導出し、母関数およびモーメント生成関数技術を用いてその漸近的成長率を分析する。
• [10]のML性能限界を用いて、正の領域においてAWDの成長率がランダム集合によって上界を受けることを証明する。負の領域ではほとんどコドワードが存在しない。
• 密度発展解析を適用し、BECにおける信念伝播復号化が1ビットあたりの復号化複雑性が有界な状態で成功することを示す。
• LDPCおよびLDGMコードの不規則な次数分布を導入し、有界な複雑性で容量に限りなく近いレートを達成する。
• 集合のレートが任意の ε > 0 およびエラージャー確率 q ∈ (0,1) に対して R > (1−ε)(1−q) を満たすことを証明し、容量達成性能を保証する。

実験結果

リサーチクエスチョン

• RQ1 最大尤度復号化下で、グラフィカルな複雑性が有界なコードが一般のMBIOSチャネル上で容量を達成できるか。
• RQ2 コンカタネートLDPC構造にレート1のLDGMコードを組み込むことで、高重みコドワードが抑圧されると同時に、低重みコドワードの数が無視できるほど少なくなっているか。
• RQ3 LDPC-GMコードが、1情報ビットあたりの復号化複雑性が有界な信念伝播復号化下で、バイナリエラージャーチャネル（BEC）上で容量を達成できるか。
• RQ4 LDPC-GM集合の平均重み分布が、漸近的にギルバート＝ヴァルシャモフ境界によって上界を受けるか。
• RQ5 密度発展に依存しないML性能限界が、容量達成イテレーティブ復号化のための必要条件として用いられるか。

主な発見

• LDPC-GMコード集合は、最大尤度復号化下で任意のMBIOSチャネル上で、グラフィカルな複雑性が有界（1情報ビットあたりのエッジ数が定数）な状態で容量を達成する。
• 内側のレート1のLDGMコードは、LDPCコード内の高重みコドワードを効果的に抑圧するが、低重みコドワードの数はほとんど維持される。これにより、正の領域におけるAWDの漸近的成長率はランダム集合によって上界を受ける。
• LDPC-GM集合のAWDは、負の領域において高々多項式的に減少するコドワード数を持つ。これにより、コードは漸近的に高い確率でギルバート＝ヴァルシャモフ境界を満たす。
• BECにおいて、LDPC-GMコードは1情報ビットあたりの復号化複雑性が有界な状態で、(0,1)のすべてのエラージャー確率において容量を達成する。
• 任意の ε > 0 に対して、コード集合のレートが R > (1−ε)(1−q) を満たす。これにより、有界な複雑性で容量に限りなく近づくことが証明される。
• ML性能限界の使用により、密度発展法が不適切な一般のMBIOSチャネルにおいても、容量達成イテレーティブ復号化のための必要条件を提示できる。