[論文レビュー] Gradient Compared Lp-LMS Algorithms for Sparse System Identification

Yong Feng, Jiasong Wu+3 more|arXiv (Cornell University)|Mar 4, 2015

Advanced Adaptive Filtering Techniques参考文献 8被引用数 4

ひとこと要約

本稿では、勾配の符号に基づいてpノルムペナルティを選択的に適用する勾配コンパレータを用いて、スパースなシステム同定に適した2つの新規なLp-LMSアルゴリズム—LpGC-LMSおよびLpNGC-LMS—を提案する。これらの手法は、標準のLMSおよびLp-LMSと比較して、より高速な収束性と低い定常誤差を達成しており、理論的およびシミュレーション的検証により、スパース環境下での優れた性能が示された。

ABSTRACT

In this paper, we propose two novel p-norm penalty least mean square (Lp-LMS) algorithms as supplements of the conventional Lp-LMS algorithm established for sparse adaptive filtering recently. A gradient comparator is employed to selectively apply the zero attractor of p-norm constraint for only those taps that have the same polarity as that of the gradient of the squared instantaneous error, which leads to the new proposed gradient compared p-norm constraint LMS algorithm (LpGC-LMS). We explain that the LpGC-LMS can achieve lower mean square error than the standard Lp-LMS algorithm theoretically and experimentally. To further improve the performance of the filter, the LpNGC-LMS algorithm is derived using a new gradient comparator which takes the sign-smoothed version of the previous one. The performance of the LpNGC-LMS is superior to that of the LpGC-LMS in theory and in simulations. Moreover, these two comparators can be easily applied to other norm constraint LMS algorithms to derive some new approaches for sparse adaptive filtering. The numerical simulation results show that the two proposed algorithms achieve better performance than the standard LMS algorithm and Lp-LMS algorithm in terms of convergence rate and steady-state behavior in sparse system identification settings.

研究の動機と目的

• 従来のLp-LMSのスパースなシステム同定における限界を克服するため、ペナルティの適用を適応的に制御する手法を導入すること。
• スパースな自己適応フィルタリングにおける平均二乗誤差を、勾配の符号に基づくタップ更新の知的選択によって低減すること。
• 標準のLMSおよびLp-LMSアルゴリズムと比較して、収束速度および定常挙動を向上させること。
• 勾配コンパレータを用いた汎用的なフレームワークを構築し、他のノルム制約付きLMSアルゴリズムへも適用可能にする。

提案手法

• 誤差の二乗の勾配と同じ符号を持つタップに対してのみ、pノルムゼロアトラクタを適用する勾配コンパレータを導入する。
• 現在の勾配の符号を用いて、選択的正則化を制御するLpGC-LMSを提案する。
• 直前の勾配の符号を平滑化したバージョンを用いることで、安定性と性能を向上させるLpNGC-LMSを構築する。
• pノルム制約を用いて、適応過程における重みベクトルのスパarsityを促進する。
• 勾配コンパレータを標準のLp-LMSフレームワークに統合することで、新たなアルゴリズムを導出する。
• 理論的分析とシミュレーションを用いて、提案手法の性能向上を検証する。

実験結果

リサーチクエスチョン

• RQ1 勾配に基づくコンパレータは、スパースなシステム同定におけるpノルム制約付きLMSアルゴリズムの性能を向上させ得るか？
• RQ2 勾配の符号に基づくpノルムペナルティの選択的適用は、より高速な収束性と低い定常誤差をもたらすか？
• RQ3 LpNGC-LMSにおける符号平滑化勾配コンパレータは、LpGC-LMSの標準的勾配コンパレータと比較してどのように異なるか？
• RQ4 提案された勾配コンパレータフレームワークは、他のノルム制約付きLMSアルゴリズムへ一般化可能か？
• RQ5 LpGC-LMSおよびLpNGC-LMSは、スパースなシステムにおいて、標準のLMSおよびLp-LMSと比較して理論的および実験的性能でどの程度の向上を示すか？

主な発見

• 理論的および実験的に、LpGC-LMSは標準のLp-LMSよりも低い平均二乗誤差を達成する。
• シミュレーションにおいて、LpNGC-LMSはLpGC-LMSよりも収束速度および定常挙動において優れている。
• 提案された2つのアルゴリズムとも、スパースなシステム同定タスクにおいて、標準のLMSおよびLp-LMSと比較してより高速な収束性と低い定常誤差を示す。
• 勾配コンパレータ機構は、関連するフィルタタップにのみ焦点を当てるため、スパarsity促進を効果的に強化する。
• 提案手法は一般化可能であり、他のノルム制約付きLMSアルゴリズムへも適用可能で、性能向上が見込まれる。
• 数値シミュレーションにより、複数の性能指標において新しいアルゴリズムの理論的利点が確認された。