[論文レビュー] Learning to Flip Successive Cancellation Decoding of Polar Codes with LSTM Networks

Xianbin Wang, Huazi Zhang+5 more|arXiv (Cornell University)|Feb 22, 2019

Advanced biosensing and bioanalysis techniques参考文献 13被引用数 5

ひとこと要約

本稿では、長短期記憶（LSTM）ネットワークを用いて各復号化試行における最初の誤りビットを特定・反転させる深層学習支援型逐次取消し（SC）フラップ復号アルゴリズムを提案する。初期誤りビットの特定に教師あり学習を、誤った反転の是正に強化学習を組み合わせることで、最新のSCフラップアルゴリズムを上回るブロック誤り率（BLER）性能を達成し、5回の復号化試行でCA-SC-List-4に近い性能にまで到達する。

ABSTRACT

The key to successive cancellation (SC) flip decoding of polar codes is to accurately identify the first error bit. The optimal flipping strategy is considered difficult due to lack of an analytical solution. Alternatively, we propose a deep learning aided SC flip algorithm. Specifically, before each SC decoding attempt, a long short-term memory (LSTM) network is exploited to either (i) locate the first error bit, or (ii) undo a previous `wrong' flip. In each SC attempt, the sequence of log likelihood ratios (LLRs) derived in the previous SC attempt is exploited to decide which action to take. Accordingly, a two-stage training method of the LSTM network is proposed, i.e., learn to locate first error bits in the first stage, and then to undo `wrong' flips in the second stage. Simulation results show that the proposed approach identifies error bits more accurately and achieves better performance than the state-of-the-art SC flip algorithms.

研究の動機と目的

• 逐次取消しフラップ復号における最初の誤りビットの特定は性能に大きく影響するが、解析的解法が存在しないため、この課題に対処すること。
• 従来のSCフラップおよびリスト復号法と比較して、復号化複雑度を低減しつつブロック誤り率（BLER）性能を向上させること。
• 順次復号プロセスにおいて最初の誤りビットを特定し、過去の「誤った」反転を是正できる深層学習フレームワークを開発すること。
• 初期状態における誤りビット同一定位と、中間状態での誤った反転の是正を可能にする2段階の訓練戦略（教師あり学習の次に強化学習）を用いてLSTMネットワークを訓練すること。

提案手法

• LSTMネットワークが、前回のSC復号化試行からの対数尤度比（LLR）系列を処理し、各凍結されていないビットが最初の誤りビット（タイプ1誤り）である確率を予測する。
• 全結合層およびソフトマックス層を通じてスコアベクトルが出力され、各ビットがタイプ1誤りである可能性を表す。
• 2段階の訓練戦略を採用：最初に初期状態における最初の誤りビットを特定する教師あり学習を実施し、次に「間違った」反転が生じた中間状態（「病的」中間状態）での是正を学習する強化学習を実施。
• 強化学習は繰り返し適用され、初期状態、一般の中間状態、および「失敗した」復号化試行後の「病的」中間状態を含む動的に更新されるデータセットを用いる。
• 訓練には、長期的決定の影響を考慮する系列ベースの損失関数が使用され、ネットワークが複数回の復号化試行にわたって最適な行動シーケンスを学習できるようにする。
• 評価は長さ64、レート1/2、8ビットCRCの極性符号を対象とし、学習およびテストにSNR = 1 dBを用いる。

実験結果

リサーチクエスチョン

• RQ1 LSTMネットワークは、極性符号の逐次取消しフラップ復号において、最初の誤りビットを効果的に同定できるか？
• RQ2 教師あり学習に続く強化学習という2段階の訓練戦略は、初期誤りビットおよびその後の誤りビットの是正能力を向上させられるか？
• RQ3 提案された深層学習支援型SCフラップアルゴリズムは、既存のSCフラップおよびリスト復号法を上回るBLER性能を達成できるか？
• RQ4 「誤った反転」によって引き起こされる「病的」中間状態からの脱出能力に、ネットワークの性能がどのように依存するか？

主な発見

• 提案アルゴリズムは、同じ復号化試行回数において動的SCフラップアルゴリズムを上回るBLER性能を達成した。
• 最大5回の復号化試行で、CA-SC-List-4デコーダーの性能に近づき、従来のSCフラップアルゴリズムを著しく上回った。
• 教師あり学習による初期誤り同一定位と、その後の強化学習による「誤った」反転の是正という2段階訓練戦略により、一般化性能とロバスト性が向上した。
• LSTMネットワークは、復号パスが逸脱した複雑な中間状態においても、最初の誤りビットを同定し、過去の誤った反転を是正する能力を習得した。
• 性能向上の背景には、系列的なLLR情報と長期的決定フィードバックを活用できるネットワークの能力があり、より正確な誤りビット選択が可能になった。