[論文レビュー] Shannon meets Wiener II: On MMSE estimation in successive decoding schemes

G. David Forney|ArXiv.org|Sep 7, 2004

Advanced Wireless Communication Techniques参考文献 7被引用数 63

ひとこと要約

本稿は、線形ガウスチャネルにおける逐次復調方式における最小平均二乗誤差（MMSE）推定の使用について、幾何的でヒルバート空間に基づく正当化を提供する。MMSE推定が逐次復調における十分統計量として自然に現れることを示し、線形推定と理想の決定フィードバックを最適に組み合わせることで、容量に近い性能を達成できることを明らかにする。

ABSTRACT

We continue to discuss why MMSE estimation arises in coding schemes that approach the capacity of linear Gaussian channels. Here we consider schemes that involve successive decoding, such as decision-feedback equalization or successive cancellation.

研究の動機と目的

• 線形ガウスチャネルにおける逐次復調方式におけるMMSE推定の使用について、簡単で透明な正当化を提供すること。
• 共分散ガウス系においてMMSE推定の十分性の性質に起因して、情報損失のない推定であることを確立すること。
• 決定フィードバック均衡化、逐次キャンセレーション、MIMOシステムなど、多様な文脈におけるMMSEの理解を統合すること。
• MMSE推定が、相互情報量を保存することで、逐次復調における容量に近い性能を達成できることを示すこと。
• MMSE推定、ヒルバート空間への射影、およびガウス設定における相互情報量の連鎖則の間の関係を形式化すること。

提案手法

• 共分散ガウス確率変数のヒルバート空間における幾何的定式化を用いて、信号推定と復調をモデル化する。
• 射影定理を適用して、信号を部分空間への射影と直交する誤差成分に分解する。
• グラム・シュミット直交化を用いたイノベーション表現を用いて、逐次的に信号成分を分解する。
• MMSE推定の連鎖則を用いて、各信号成分を観測からのMMSE推定値、過去の誤差からの予測値、および残差誤差の和として表現する。
• 条件付きエントロピーの差として相互情報量の増分 $ R_i = I({oldsymbol{X}}_i; {oldsymbol{Y}} | {oldsymbol{X}}_1^{i-1}) $ を導出し、推定誤差と情報レートを結びつける。
• 逐次復調を、後向きフィルタが過去の決定からの推定誤差を予測するノイズ予測型の決定フィードバックシステムとしてモデル化する。

実験結果

リサーチクエスチョン

• RQ1 なぜMMSE推定は、線形ガウスチャネルにおける容量に近い符号化方式において自然に現れるのか？
• RQ2 逐次復調フレームワークにおいて、MMSE推定がなぜ情報損失のないものと正当化できるのか？
• RQ3 射影定理とヒルバート空間構造が、ガウス系における最適推定を可能にする役割は何か？
• RQ4 MMSE推定の連鎖則は、逐次復調における相互情報量の連鎖則とどのように関係するか？
• RQ5 理想的な決定フィードバックの仮定は、MMSE推定と組み合わせることで、どのように正当化可能になるか？

主な発見

• MMSE推定は、ノイズのある観測値が与えられたときのガウス信号推定の十分統計量であり、情報損失がないことを保証する。
• 推定誤差 $ ({oldsymbol{E}}_i)_{ot {oldsymbol{E}}_1^{i-1}} $ は過去の誤差と独立であり、微分エントロピー $ h({oldsymbol{X}}_i | {oldsymbol{Y}}, {oldsymbol{X}}_1^{i-1}) $ を有する。これは残差不確実性を定量化する。
• 増分レート $ R_i = I({oldsymbol{X}}_i; {oldsymbol{Y}} | {oldsymbol{X}}_1^{i-1}) $ は、過去の信号が与えられたときの $ {oldsymbol{X}}_i $ のエントロピーと推定誤差のエントロピーの差に等しく、情報理論的最適性を確認する。
• 各ユーザーのコードレートが $ R_i $ に近づくとき、逐次復調は総合的に $ I({oldsymbol{X}}; {oldsymbol{Y}}) $ に近づくレートを達成する。誤り確率は和集合バウンドによって上限が与えられる。
• 前方MMSEフィルタ $ A_{xy} $ と後向き予測子 $ A_b $ を有する決定フィードバック構造は、ノイズ予測型システムを形成し、効率的で容量に近い検出を可能にする。
• 定常的かつ無限長の系列に対しては、MMSEフィルタは時不変となり、スペクトル因子分解および多次元拡張を用いて情報レートへ一般化される。