[論文レビュー] Diffusion-KLMS Algorithm and its Performance Analysis for Non-Linear Distributed Networks

Rangeet Mitra, Vimal Bhatia|arXiv (Cornell University)|Sep 4, 2015

Advanced Adaptive Filtering Techniques参考文献 13被引用数 4

ひとこと要約

本稿では、非線形分散ネットワーク向けに、カーネルトリックを活用して拡張された拡散-LMSを非線形環境に適応させるための、拡散カーネル最小分散（Diffusion-KLMS）アルゴリズムを提案する。従来のKLMS、LMS、拡散-LMS、拡散-RLSと比較して、収束速度が速く、平均二乗誤差（MSE）の床が低く抑えられ、理論的に導出された過渡および定常状態の性能モデルが実験結果とよく一致する。

ABSTRACT

In a distributed network environment, the diffusion-least mean squares (LMS) algorithm gives faster convergence than the original LMS algorithm. It has also been observed that, the diffusion-LMS generally outperforms other distributed LMS algorithms like spatial LMS and incremental LMS. However, both the original LMS and diffusion-LMS are not applicable in non-linear environments where data may not be linearly separable. A variant of LMS called kernel-LMS (KLMS) has been proposed in the literature for such non-linearities. In this paper, we propose kernelised version of diffusion-LMS for non-linear distributed environments. Simulations show that the proposed approach has superior convergence as compared to algorithms of the same genre. We also introduce a technique to predict the transient and steady-state behaviour of the proposed algorithm. The techniques proposed in this work (or algorithms of same genre) can be easily extended to distributed parameter estimation applications like cooperative spectrum sensing and massive multiple input multiple output (MIMO) receiver design which are potential components for 5G communication systems.

研究の動機と目的

• 非線形環境下でデータがアフィンに分離できない場合に、線形分散自己適応フィルタリング手法に見られる限界を解消すること。
• 拡散協調を用いてカーネル-LMS（KLMS）フレームワークを分散ネットワークに拡張し、性能を向上させること。
• 提案されたアルゴリズムの過渡および定常状態の挙動を理論的に表現すること。
• シミュレーションを用いてアルゴリズムの性能を検証し、最先端の分散および集中型非線形フィルタリング手法と比較すること。
• 5G関連の応用、例えばマスティブ MIMO 検出や協調スペクトラムセンシングへの適用可能性を示すこと。

提案手法

• 入力データを高次元の再生核ヒルベルト空間（RKHS）にマップすることで線形分離性を実現するため、カーネルトリックを適用して拡散-LMSアルゴリズムのカーネル化版を提案する。
• ノード間でのデータ統合を可能にするために、確率的混合行列AとCを用い、ロバストで適応的な情報交換を実現する。
• 過渡および定常状態の挙動をモデル化するため、平均二乗偏差（MSD）および余剰平均二乗誤差（EMSE）の理論的表現を導出する。
• カーネル関数を用いてRKHS内でWidrow-Hoff学習則を適用し、カーネル関数のパrameterは広がりパrameterσで定義する。
• 安定性を保証するため、ステップサイズμに基づく収束条件を確立する：0 < μ < 2 / ⟨C₁Φ(x), Φ(x_obs)⟩_ℋ。
• 性能評価のために、シミュレーションでσ = 0.1のガウスカーネル関数を用い、複数のネットワーク構成およびサイズで評価する。

実験結果

リサーチクエスチョン

• RQ1 カーネルベースの手法を用いることで、拡散-LMSフレームワークを非線形システムに効果的に拡張できるか？
• RQ2 収束速度および定常状態誤差の観点から、提案されたDiffusion-KLMSはKLMS、LMS、および拡散-LMSと比較してどの程度優れているか？
• RQ3 理論的モデルは、Diffusion-KLMSアルゴリズムの過渡および定常状態挙動を正確に予測できるか？
• RQ4 ネットワークサイズの増加が、Diffusion-KLMSアルゴリズムの定常状態MSEの床に与える影響は何か？
• RQ5 提案されたアルゴリズムの学習段階およびテスト段階における計算複雑度はどの程度か？

主な発見

• 提案されたDiffusion-KLMSは、非線形環境下で従来のLMSおよび拡散-LMSと比較して、平均二乗誤差（MSE）低減において20倍の性能向上を達成する。
• 単一ノードのKLMSと比較して10倍の性能向上を達成し、分散協調の利点を示している。
• 過渡および定常状態MSEの理論的予測値は、実験結果とよく一致しており、特に適応の時間定数領域で顕著である。
• ネットワークサイズが増加するにつれて、実験的MSEの床が低下し、複数のネットワーク構成において理論モデルと整合性を示す。
• 学習段階では計算複雑度がO(D²|𝒢|)、テスト段階ではO(D|𝒢|)であり、Dは入力次元、|𝒢|はノード数を表す。
• 非線形系では共分散行列の更新が失敗するため、非線形状況下で拡散-RLSよりもDiffusion-KLMSが優れた性能を示す。