[论文解读] Diffusion-KLMS Algorithm and its Performance Analysis for Non-Linear Distributed Networks

Rangeet Mitra, Vimal Bhatia|arXiv (Cornell University)|Sep 4, 2015

Advanced Adaptive Filtering Techniques参考文献 13被引用 4

一句话总结

该论文提出了一种用于非线性分布式网络的扩散核最小均方（Diffusion-KLMS）算法，通过核技巧将扩散-LMS扩展至非线性环境。与KLMS、LMS、扩散-LMS及扩散-RLS相比，该算法在收敛速度和均方误差（MSE）稳态水平方面表现更优，且理论推导的瞬态与稳态性能模型与实验结果高度吻合。

ABSTRACT

In a distributed network environment, the diffusion-least mean squares (LMS) algorithm gives faster convergence than the original LMS algorithm. It has also been observed that, the diffusion-LMS generally outperforms other distributed LMS algorithms like spatial LMS and incremental LMS. However, both the original LMS and diffusion-LMS are not applicable in non-linear environments where data may not be linearly separable. A variant of LMS called kernel-LMS (KLMS) has been proposed in the literature for such non-linearities. In this paper, we propose kernelised version of diffusion-LMS for non-linear distributed environments. Simulations show that the proposed approach has superior convergence as compared to algorithms of the same genre. We also introduce a technique to predict the transient and steady-state behaviour of the proposed algorithm. The techniques proposed in this work (or algorithms of same genre) can be easily extended to distributed parameter estimation applications like cooperative spectrum sensing and massive multiple input multiple output (MIMO) receiver design which are potential components for 5G communication systems.

研究动机与目标

• 解决线性分布式自适应滤波算法在非线性环境中数据无法仿射可分时的局限性。
• 通过扩散协作机制将核最小均方（KLMS）框架扩展至分布式网络，以提升性能。
• 推导所提算法瞬态与稳态行为的理论表达式。
• 通过仿真验证算法性能，并与最先进的分布式及集中式非线性滤波方法进行比较。
• 展示其在5G相关应用中的适用性，如大规模MIMO检测与协作频谱感知。

提出的方法

• 通过应用核技巧将输入数据映射至高维再生核希尔伯特空间（RKHS），实现线性可分性，从而提出扩散-LMS算法的核化版本。
• 采用随机混合矩阵A和C，实现在分布式网络中节点间的数据融合，确保鲁棒且自适应的信息交换。
• 推导均方偏差（MSD）与超额均方误差（EMSE）的理论表达式，以建模算法的瞬态与稳态行为。
• 在RKHS中应用Widrow-Hoff学习规则，结合由展宽参数σ参数化的核函数。
• 基于步长μ建立收敛条件：0 < μ < 2 / ⟨C₁Φ(x), Φ(x_obs)⟩_ℋ，确保在非线性环境下的稳定性。
• 在仿真中采用σ = 0.1的高斯核函数，评估不同网络拓扑与规模下的性能表现。

实验结果

研究问题

• RQ1 能否通过基于核的方法有效将扩散-LMS框架扩展至非线性系统？
• RQ2 所提Diffusion-KLMS算法在收敛速度与稳态误差方面相较于KLMS、LMS及扩散-LMS的表现如何？
• RQ3 理论模型能否准确预测Diffusion-KLMS算法的瞬态与稳态行为？
• RQ4 网络规模如何影响Diffusion-KLMS算法的稳态MSE下限？
• RQ5 该算法在训练与测试阶段的计算复杂度如何？

主要发现

• 所提Diffusion-KLMS在非线性环境中相较于传统LMS与扩散-LMS实现了MSE降低两个数量级的性能提升。
• 与单节点KLMS相比，该算法实现了MSE降低一个数量级，证明了分布式协作的优势。
• 瞬态与稳态MSE的理论预测值与实验结果高度吻合，尤其在自适应时间常数区域表现优异。
• 随着网络规模增大，实验测得的MSE下限降低，且该趋势在多种网络配置下与理论模型一致。
• 训练阶段计算复杂度为O(D²|𝒢|)，测试阶段为O(D|𝒢|)，其中D为输入维度，|𝒢|为节点数量。
• 由于非线性系统中协方差矩阵更新失效，Diffusion-KLMS在非线性场景下优于扩散-RLS。