[论文解读] A Unifying Approach to Quaternion Adaptive Filtering: Addressing the Gradient and Convergence

Cyrus Jahanchahi, Danilo P. Mandic|arXiv (Cornell University)|Oct 17, 2013

Advanced Adaptive Filtering Techniques参考文献 24被引用 4

一句话总结

本文通过提出 I-梯度和 HR-微积分，构建了一个统一的四元数自适应滤波框架，解决了由于非交换性导致的四元数梯度模糊性这一长期难题。该框架实现了严格线性和广义线性 QLMS 算法的系统推导，统一了对圆性（广义）和非圆性（非广义）信号的收敛性分析，在多维信号处理应用中显著提升了鲁棒性和计算效率。

ABSTRACT

A novel framework for a unifying treatment of quaternion valued adaptive filtering algorithms is introduced. This is achieved based on a rigorous account of quaternion differentiability, the proposed I-gradient, and the use of augmented quaternion statistics to account for real world data with noncircular probability distributions. We first provide an elegant solution for the calculation of the gradient of real functions of quaternion variables (typical cost function), an issue that has so far prevented systematic development of quaternion adaptive filters. This makes it possible to unify the class of existing and proposed quaternion least mean square (QLMS) algorithms, and to illuminate their structural similarity. Next, in order to cater for both circular and noncircular data, the class of widely linear QLMS (WL-QLMS) algorithms is introduced and the subsequent convergence analysis unifies the treatment of strictly linear and widely linear filters, for both proper and improper sources. It is also shown that the proposed class of HR gradients allows us to resolve the uncertainty owing to the noncommutativity of quaternion products, while the involution gradient (I-gradient) provides generic extensions of the corresponding real- and complex-valued adaptive algorithms, at a reduced computational cost. Simulations in both the strictly linear and widely linear setting support the approach.

研究动机与目标

• 解决为四元数变量的实值函数定义一致梯度的根本挑战，该挑战长期阻碍了四元数自适应滤波的系统性发展。
• 解决由于四元数乘法的非交换性导致的梯度计算模糊性，特别是在随机梯度下降算法中。
• 通过增强的四元数统计方法，统一处理严格线性和广义线性自适应滤波，适用于循环（广义）和非循环（非广义）信号。
• 通过所提出的 I-梯度和 HR-微积分，提供一种计算高效且通用的实数和复数自适应算法向四元数域的扩展。
• 实现适用于具有非循环分布的真实世界数据的广义线性 QLMS（WL-QLMS）算法的收敛性分析。

提出的方法

• 引入 I-梯度（共轭梯度）作为柯西-黎曼-富策（CRF）导数的一致且计算高效的替代方法，解决了左乘与右乘四元数乘积顺序带来的模糊性。
• 开发 HR-微积分（厄米特-实数微积分），以形式化四元数变量的实函数梯度，从而实现自适应滤波算法的系统推导。
• 利用增强的四元数统计方法，建模二阶和互补协方差矩阵（P, S, T, R），这对于捕捉非循环信号特性至关重要。
• 通过在标准 QLMS 中引入共轭分量（x^i, x^j, x^k），制定广义线性 QLMS（WL-QLMS）算法，实现对非广义信号的最优滤波。
• 推导并分析 IQLMS 的均方误差（MSE）表达式，将其分解为多余 MSE 和噪声功率，假设统计独立性和零均值。
• 为 IQLMS 算法建立能量守恒定律，表明权重误差平方和归一化先验误差能量在迭代过程中保持不变。

实验结果

研究问题

• RQ1 如何为四元数变量的实函数定义一致且无歧义的梯度，以克服 CRF 导数的局限性？
• RQ2 广义线性 QLMS（WL-QLMS）算法在非循环（非广义）四元数信号上的性能相比标准 QLMS 能提升多少？
• RQ3 所提出的 I-梯度和 HR-微积分能否统一严格线性和广义线性四元数自适应滤波器的推导与收敛性分析？
• RQ4 信号的广义性（循环与非广义）对四元数自适应滤波器的收敛性和性能有何影响？
• RQ5 IQLMS 算法中的能量守恒定律如何与四元数域中的稳定性及学习动态相关联？

主要发现

• 所提出的 I-梯度通过提供一种唯一、一致且计算高效的 CRF 导数替代方法，解决了四元数梯度计算中的模糊性。
• HR-微积分实现了四元数自适应滤波算法的严谨且系统化的推导，将现有 QLMS 变体统一于单一数学框架之下。
• 广义线性 QLMS（WL-QLMS）算法通过引入共轭分量，实现了对非广义信号的最优性能，且其收敛性分析在广义与非广义信号源之间实现了统一。
• IQLMS 的均方误差（MSE）表达式可分解为多余 MSE 和噪声功率，其中多余 MSE 取决于先验误差和共轭分量响应。
• 为 IQLMS 建立了能量守恒定律，表明权重误差平方和归一化先验误差能量在迭代过程中保持不变，支持稳定性分析。
• 在严格线性和广义线性设置下的仿真结果验证了理论收敛性，并表明所提框架在性能上优于现有方法。