[論文レビュー] Low Noise Non-Linear Equalization Using Neural Networks and Belief Propagation

Etsushi Yamazaki, Nariman Farsad+1 more|arXiv (Cornell University)|May 13, 2019

Optical Network Technologies参考文献 5被引用数 5

ひとこと要約

本稿では、非線形性に起因する歪みを軽減するとともにノイズ増幅を最小限に抑えるために、ニューラルネットワーク（NN）と信念伝播（BP）を組み合わせた新しい反復的非線形均衡化方式を提案する。多段階NNフレームワーク内にBPを非学習可能なレイヤーとして統合することで、最適なボルテラ均衡器に対して0.6 dBの利得を達成し、非均衡化システムに対しては1.7 dBの利得を示した。これは、加法性ノイズを伴う非線形光通信および無線通信システムにおいて優れた性能を発揮することを示している。

ABSTRACT

Nonlinearities can be introduced into communication systems by the physical components such as the power amplifier, or during signal propagation through a nonlinear channel. These nonlinearities can be compensated by a nonlinear equalizer at the receiver side. The nonlinear equalizer also operates on the additive noise, which can lead to noise enhancement. In this work we evaluate this trade-off between distortion reduction and noise-enhancement via nonlinear equalization techniques. We first, evaluate the trade-off between nonlinearity compensation and noise enhancement for the Volterra equalizer, and propose a method to determine the training SNR that optimizes this performance trade-off. We then propose a new approach for nonlinear equalization that alternates between neural networks (NNs) for nonlinearity compensation, and belief propagation (BP) for noise removal. This new approach achieves a 0.6 dB gain compared to the Volterra equalizer with the optimal training SNR, and a 1.7 dB gain compared to a system with no nonlinearity compensation.

研究の動機と目的

• ボルテラ均衡器における非線形補償とノイズ増幅のトレードオフを分析すること。
• 最適なトレーニングSNR選択を支援するため、ボルテラ均衡器のノイズ指数の閉形式表現を導出すること。
• 歪みとノイズ増幅を同時に軽減する新しい非線形均衡化フレームワークを開発すること。
• 加法性ノイズを伴う非線形チャネルにおいて、従来のボルテラ均衡化および非均衡化システムと比較して性能向上を実証すること。

提案手法

• トレーニングSNRの関数としてノイズ増幅を定量化するため、ボルテラ均衡器の数学的ノイズ指数式を導出する。
• 非線形補償のための学習可能なニューラルネットワークと、ノイズ除去のための信念伝播を交互に用いるハイブリッド均衡化アーキテクチャを提案する。
• 信念伝播を非学習可能なニューラルネットワークレイヤーとして実装し、システム全体にエンドツーエンドの誤差逆伝播を可能にする。
• BPステップの出力で交差エントロピー損失を用いてNN均衡器を学習させ、均衡化とデコードの共同最適化を可能にする。
• 3段階の反復構造を採用：BPの前段にNN、次にBP、その後に追加のNNとBPステージを配置し、推定値を精緻化する。
• 導出されたノイズ指数モデルを用いて、ボルテラ均衡器のトレーニングSNRを最適化し、総合SNRペナルティを最小化する。

実験結果

リサーチクエスチョン

• RQ1 非線形性とノイズ増幅の両方のペナルティを最小化するためのボルテラ均衡器の最適なトレーニングSNRは何か？
• RQ2 ハイブリッドニューラルネットワーク-信念伝播アーキテクチャは、加法性ノイズを伴う非線形チャネルにおいて、従来のボルテラ均衡器を上回る性能を示せるか？
• RQ3 非線形均衡器において、ノイズ増幅をどの程度抑制できるか、同時に効果的な非線形補償を維持できるか？
• RQ4 ニューラルネットワークと信念伝播を反復的に統合することで、単一段階または非反復的手法と比較して、システム性能はどの程度向上するか？

主な発見

• 導出されたノイズ指数モデルは、ボルテラ均衡器のノイズ増幅ペナルティ（NE-penalty）を正確に予測でき、19 dBのトレーニングSNRで0.35 dBのNE-penaltyが観測された。
• 17 dB以上のトレーニングSNRでは、総合SNRペナルティ（NL-penalty + NE-penalty）が比較的一定に保たれるため、高SNRでのトレーニングが最適であると示唆された。
• 提案された反復的NN-BP均衡器は、最適なトレーニングSNRで動作するボルテラ均衡器よりも0.6 dBの利得を達成した。
• 非非線形補償が施されたシステムと比較して、本手法は1.7 dBの利得を示し、顕著な性能向上を確認した。
• 3段階の反復的NN-BPアーキテクチャは、単一段階のNNや線形FIRフィルターより優れた性能を示し、反復的精錬の有効性を裏付けた。
• BPを非学習可能なレイヤーとして用いることで、システム全体に効果的な誤差逆伝播が可能になり、均衡化とデコードの共同最適化が実現された。