[論文レビュー] Low density majority codes and the problem of graceful degradation

Hajir Roozbehani, Yury Polyanskiy|arXiv (Cornell University)|Nov 26, 2019

Error Correcting Code Techniques参考文献 57被引用数 5

ひとこと要約

本稿では、二値消去チャネル（BEC）上でのビット誤り率（BER）性能が滑らかで、急激に悪化しないようになる非線形スパース・グラフ・コード族、低密度多数決符号（LDMCs）を提案する。線形LDGMコードとは異なり、LDMCsは非線形性を活用して信念伝播（BP）デコーディングをブートストラップし、わずかなBPイテレーションでも線形システム的符号を著しく上回る性能を達成する。さらに、システム的符号の性能限界をより厳密に定める、新しい二点逆問題境界を確立する。

ABSTRACT

We study a problem of constructing codes that transform a channel with high bit error rate (BER) into one with low BER (at the expense of rate). Our focus is on obtaining codes with smooth ("graceful'') input-output BER curves (as opposed to threshold-like curves typical for long error-correcting codes). This paper restricts attention to binary erasure channels (BEC) and contains three contributions. First, we introduce the notion of Low Density Majority Codes (LDMCs). These codes are non-linear sparse-graph codes, which output majority function evaluated on randomly chosen small subsets of the data bits. This is similar to Low Density Generator Matrix codes (LDGMs), except that the XOR function is replaced with the majority. We show that even with a few iterations of belief propagation (BP) the attained input-output curves provably improve upon performance of any linear systematic code. The effect of non-linearity bootstraping the initial iterations of BP, suggests that LDMCs should improve performance in various applications, where LDGMs have been used traditionally. Second, we establish several extit{two-point converse bounds} that lower bound the BER achievable at one erasure probability as a function of BER achieved at another one. The novel nature of our bounds is that they are specific to subclasses of codes (linear systematic and non-linear systematic) and outperform similar bounds implied by the area theorem for the EXIT function.

研究の動機と目的

• チャネル符号化における滑らかな性能劣化（誤り率がチャネル雑音の増加に伴い急激に悪化するのではなく、滑らかに劣化する）を実現する、広く受け入れられたソリューションが不足しているという問題に対処すること。
• 高BERチャネルを低BERチャネルに変換し、滑らかで単調なBER曲線を示す内部符号を設計すること。これは、ハードウェア最適化された外部符号に適している。
• 滑らかな性能劣化を達成するための線形システム的符号の限界を克服するため、非線形代替手法を導入すること。
• 特に線形と非線形サブクラスを区別することで、システム的符号のよりタイトな逆問題境界を確立すること。
• E-関数とカイ二乗情報に基づくチャネル比較法を用いて、二値入力対称チャネル上でのスパース・グラフ符号のBPデコーディングを、拡張された情報理論的ツールを用いて厳密に分析するフレームワークを提供すること。

提案手法

• 各出力ビットが入力ビットのランダムに選択された小さなサブセットの多数関数として定義される、低密度多数決符号（LDMCs）を提案。LDGMコードで用いられるXORの代わりに使用する。
• LDMCsにおける信念伝播（BP）デコーディングを用い、非線形性が初期デコーディングイテレーションを向上させ、収束が速く、BER性能が向上することを示す。
• 任意の二値入力対称チャネル上でのBPデコーディング性能を厳密に束縛するため、E関数とカイ二乗情報に基づく新しいチャネル比較法を開発する。
• カイ二乗情報におけるMrs. Gerberの補題を拡張し、よりノイジーな順序における極値性を特徴づけることで、よりタイトな性能境界を可能にする。
• 線形システム的符号と非線形システム的符号の両方に特化した二点逆問題境界を導出。これは、EXIT関数の面積定理から導かれる境界よりも優れている。
• LDMC(d)の消去多項式を用いて性能境界を計算および最適化し、d ≤ 10の範囲で明示的な式を提供する。

実験結果

リサーチクエスチョン

• RQ1 非線形スパース・グラフ符号は、二値消去チャネル上でのBER性能劣化を、線形LDGMコードよりも滑らかで、より優れた形で実現できるか？
• RQ2 LDMCsにおける多数関数の非線形性は、線形符号と比較して信念伝播の初期収束をどのように改善するか？
• RQ3 線形と非線形サブクラスを区別することで、システム的符号に対してよりタイトな二点逆問題境界を導出できるか？
• RQ4 E関数とカイ二乗情報に基づくチャネル比較法は、BPデコーディングされたスパース・グラフ符号の分析をどの程度向上できるか？
• RQ5 サブセットサイズdが増加する際、システム的LDMC(d)の漸近的性能限界は何か？

主な発見

• わずかな信念伝播イテレーションでも、LDMCsは任意の線形システム的符号を厳密に上回るBER性能を達成し、初期デコーディング段階における非線形性の優位性を示している。
• システム的LDMCsに導出された二点逆問題境界は、EXIT関数の面積定理から導かれる境界よりもタイトであり、特に非線形符号において顕著である。
• LDMC(3)では、消去確率が0.5の場合のBERは約0.15625未満に抑えられ、dが増加するにつれて減少し、d → ∞のとき0.07056に近づく。
• d=3およびd=5のシステム的LDMC(d)の性能は、従来の知られていたものよりもタイトな上界で抑えられ、LDGMよりも顕著な改善が示された。
• LDMC(3)のE関数はqの多項式として明示的に計算可能であり、さまざまな消去確率において正確な性能評価と最適化が可能である。
• d→∞におけるシステム的LDMC(d)の漸近的BER限界は0.07056未満に抑えられ、この符号クラスに根本的な性能下限が存在することを示唆している。