[論文レビュー] Decomposition Methods for Large Scale LP Decoding

Siddharth Barman, Xishuo Liu+2 more|arXiv (Cornell University)|Apr 2, 2012

Error Correcting Code Techniques参考文献 47被引用数 5

ひとこと要約

本稿では、交替方向乗数法（ADMM）を用いた効率的で分散型のLPデコーディングアルゴリズムを、大きなサイズのLDPCコードに対して提案する。新規に導入された「二スライス」表現により、パリティポリトープのユークリッド射影を高速化でき、その結果、信念伝播（BP）と同等のデコーディング速度を達成すると同時に、BPで観測される誤りフロアを解消する。理論的保証が強く、長ブロック長コードへのスケーラビリティも確保される。

ABSTRACT

When binary linear error-correcting codes are used over symmetric channels, a relaxed version of the maximum likelihood decoding problem can be stated as a linear program (LP). This LP decoder can be used to decode error-correcting codes at bit-error-rates comparable to state-of-the-art belief propagation (BP) decoders, but with significantly stronger theoretical guarantees. However, LP decoding when implemented with standard LP solvers does not easily scale to the block lengths of modern error correcting codes. In this paper we draw on decomposition methods from optimization theory, specifically the Alternating Directions Method of Multipliers (ADMM), to develop efficient distributed algorithms for LP decoding. The key enabling technical result is a "two-slice" characterization of the geometry of the parity polytope, which is the convex hull of all codewords of a single parity check code. This new characterization simplifies the representation of points in the polytope. Using this simplification, we develop an efficient algorithm for Euclidean norm projection onto the parity polytope. This projection is required by ADMM and allows us to use LP decoding, with all its theoretical guarantees, to decode large-scale error correcting codes efficiently. We present numerical results for LDPC codes of lengths more than 1000. The waterfall region of LP decoding is seen to initiate at a slightly higher signal-to-noise ratio than for sum-product BP, however an error floor is not observed for LP decoding, which is not the case for BP. Our implementation of LP decoding using ADMM executes as fast as our baseline sum-product BP decoder, is fully parallelizable, and can be seen to implement a type of message-passing with a particularly simple schedule.

研究の動機と目的

• 大ブロック長LDPCコードに対する標準的なLPソルバのスケーラビリティの限界を克服すること。
• 理論的保証を保持しつつ、実用的な効率性を達成する分散型で並列化可能なデコーディングアルゴリズムを開発すること。
• LPデコーディングの優れた収束特性を活用して、信念伝播デコーディングに見られる誤りフロアを解消すること。
• 磁気記録や光ファイバーネットワークなど、高信頼性を要する応用分野におけるLPデコーディングの実用的導入を可能にすること。
• 最大尤度性能に近づけるようにLP緩和をタイトニングするスケーラブルなフレームワークを提供すること。

提案手法

• 著者らは、1つのパリティチェックコードにおけるコドワードの凸包であるパリティポリトープの「二スライス」表現を導入し、点の表現を単純化する。
• この表現により、ADMMにおける主要な演算であるパリティポリトープへのユークリッドノルム射影を高速に計算する水槽型アルゴリズムが可能になる。
• ADMMアルゴリズムをLPデコーディング問題に適用し、単純な更新スケジュールを持つ分散型メッセージパッシングプロトコルに変換する。
• 収束保証を損なわずに収束を加速するために、過剰緩和（ρ ∈ [1, 2)）を導入する。
• 変数ノードとパリティチェックノードがメッセージを交換することで逐次的推定を改善する、コンSENSUS ADMM定式化を採用する。
• 分散構造のおかげで、並列処理やハードウェア互換アーキテクチャへの効率的実装が可能になる。

実験結果

リサーチクエスチョン

• RQ1 ADMMは、大規模なLDPCコード用LPデコーディングに効果的に適応可能であり、理論的保証を維持できるか？
• RQ2 パリティポリトープの新規幾何的特徴付けが、ADMMデコーディングの主要なボトルネックである高速かつ正確な射影を可能にするか？
• RQ3 得られたADMMベースのLPデコーダーは、信念伝播デコーディングで観測される誤りフロアを解消するか？
• RQ4 ADMMベースのLPデコーダーは、信念伝播と同等のデコーディング速度を達成できるか、かつ完全に並列化可能か？
• RQ5 過剰緩和は、LPデコーディングの文脈で収束速度とデコーディング性能にどのように影響を与えるか？

主な発見

• ADMMベースのLPデコーダーは、ベースラインの和積BPデコーダーとほぼ同等の時間で実行され、同等のデコーディング効率を達成する。
• 信念伝播デコーディングで観測される誤りフロアが解消され、高SNR領域での性能が優れていることが示された。
• LPデコーディングのウォールフォール領域は、BPよりわずかに高い信号対雑音比で開始されるが、誤りフロアは観測されない。
• ρ = 1.9 での過剰緩和により、平均デコーディング時間が最大50％短縮され、誤り率性能に悪影響を及げない。
• 二スライス表現により、パリティポリトープへのユークリッド射影を高速に実行する水槽型アルゴリズムが可能になり、これはADMM収束にとって極めて重要である。
• この手法は完全に並列化可能であり、ハードウェア互換アーキテクチャへの実装が可能であり、実世界の高信頼性応用に適している。