[논문 리뷰] A Unifying Approach to Quaternion Adaptive Filtering: Addressing the Gradient and Convergence

Cyrus Jahanchahi, Danilo P. Mandic|arXiv (Cornell University)|2013. 10. 17.

Advanced Adaptive Filtering Techniques참고 문헌 24인용 수 4

한 줄 요약

이 논문은 비가환성으로 인한 허수계수 기울기 모호성 문제를 해결하기 위해 I-기울기와 HR-미적분을 제안함으로써 허수계수 적응 필터링을 위한 통합 프레임워크를 도입한다. 이를 통해 엄밀한 선형 및 광범위한 선형 QLMS 알고리즘의 체계적 유도가 가능해지고, 적합한 신호와 부적합한 신호 모두에 대해 수렴 분석이 통합되어 다차원 신호 처리 응용 분야에서 강건성과 계산 효율성이 크게 향상된다.

ABSTRACT

A novel framework for a unifying treatment of quaternion valued adaptive filtering algorithms is introduced. This is achieved based on a rigorous account of quaternion differentiability, the proposed I-gradient, and the use of augmented quaternion statistics to account for real world data with noncircular probability distributions. We first provide an elegant solution for the calculation of the gradient of real functions of quaternion variables (typical cost function), an issue that has so far prevented systematic development of quaternion adaptive filters. This makes it possible to unify the class of existing and proposed quaternion least mean square (QLMS) algorithms, and to illuminate their structural similarity. Next, in order to cater for both circular and noncircular data, the class of widely linear QLMS (WL-QLMS) algorithms is introduced and the subsequent convergence analysis unifies the treatment of strictly linear and widely linear filters, for both proper and improper sources. It is also shown that the proposed class of HR gradients allows us to resolve the uncertainty owing to the noncommutativity of quaternion products, while the involution gradient (I-gradient) provides generic extensions of the corresponding real- and complex-valued adaptive algorithms, at a reduced computational cost. Simulations in both the strictly linear and widely linear setting support the approach.

연구 동기 및 목표

• 실수값 함수의 허수계수 변수에 대한 일관된 기울기를 정의하는 데 있어 근본적인 과제를 해결함으로써, 허수계수 적응 필터의 체계적 개발을 방해하는 요소를 제거한다.
• 허수계수 곱셈의 비가환성으로 인해 발생하는 기울기 계산의 모호성을 해결함으로써, 특히 확률적 기울기 하강 알고리즘에서의 문제를 해결한다.
• 확장된 허수계수 통계를 활용하여 엄밀한 선형 및 광범위한 선형 적응 필터링을 원칙적으로 동일한 방식으로 다루며, 원형(적합한) 및 비원형(부적합한) 신호를 모두 포함한다.
• 제안된 I-기울기와 HR-미적분을 통해 실수 및 복소수 기반 적응 알고리즘의 계산 효율적이고 일반적인 확장 방식을 허수계수 영역에 적용한다.
• 실제 데이터에서 비원형 분포를 가진 신호에 적용 가능한 광범위한 선형 QLMS(WL-QLMS) 알고리즘의 수렴 분석을 가능하게 한다.

제안 방법

• 비가환성 문제로 인한 좌항 대비 우항 곱셈 순서의 모호성을 해결하기 위해, Cauchy-Riemann-Fueter(CRF) 도함수의 대체로 일관되고 계산 효율적인 I-기울기(역환 기울기)를 제안한다.
• 실수 함수의 허수계수 변수에 대한 기울기를 체계적으로 정의하기 위해 HR-미적분(Hermitian-Real 미적분)을 개발함으로써, 적응 필터링 알고리즘의 체계적 유도를 가능하게 한다.
• 두 번째 모멘트와 보완 공분산 행렬(P, S, T, R)을 모두 포괄할 수 있는 확장된 허수계수 통계를 활용하여 비원형 신호 특성을 정확히 기록한다.
• 표준 QLMS 알고리즘에 켤레 성분(x^i, x^j, x^k)을 추가하여 광범위한 선형 QLMS(WL-QLMS) 알고리즘을 제안함으로써, 비적합한 신호에 대해 최적의 필터링 성능을 달성한다.
• IQLMS의 평균 제곱 오차(MSE) 표현식을 유도하고, 초과 MSE와 노이즈 전력으로 분해하며, 통계적 독립성과 영 평균을 가정한다.
• IQLMS 알고리즘에 에너지 보존 법칙을 수립하여, 반복 과정에서 가중치 오차의 제곱합과 정규화된 사전 오차 에너지의 합이 유지됨을 보여준다.

실험 결과

연구 질문

• RQ1 비가환성 문제로 인해 발생하는 기울기 계산의 모호성을 해결하기 위해, 실수 함수의 허수계수 변수에 대해 일관되고 모호하지 않은 기울기를 어떻게 정의할 수 있는가?
• RQ2 비원형(부적합한) 허수계수 신호에 대해 광범위한 선형 QLMS(WL-QLMS) 알고리즘이 표준 QLMS에 비해 성능을 얼마나 향상시킬 수 있는가?
• RQ3 제안된 I-기울기와 HR-미적분을 통해 엄밀한 선형 및 광범위한 선형 허수계수 적응 필터링 알고리즘의 유도 및 수렴 분석을 통합할 수 있는가?
• RQ4 신호의 적합성(원형 대비 비원형)은 허수계수 적응 필터의 수렴성과 성능에 어떤 영향을 미치는가?
• RQ5 IQLMS 알고리즘의 에너지 보존 법칙은 허수계수 영역에서의 안정성과 학습 역학과 어떻게 관련되어 있는가?

주요 결과

• 제안된 I-기울기는 CRF 도함수의 대체로 유일하고 일관되며 계산 효율적인 방법을 제공함으로써 허수계수 기울기 계산의 모호성을 해결한다.
• HR-미적분은 체계적이고 엄밀한 허수계수 적응 필터링 알고리즘의 유도를 가능하게 하며, 기존 QLMS 변종들을 하나의 수학적 프레임워크로 통합한다.
• 광범위한 선형 QLMS(WL-QLMS) 알고리즘은 켤레 성분을 포함함으로써 비적합한 신호에 대해 최적의 성능을 달성하며, 적합한 신호와 부적합한 신호 모두에 대해 수렴 분석이 통합되어 있다.
• IQLMS의 평균 제곱 오차(MSE) 표현식은 초과 MSE와 노이즈 전력으로 분해되며, 초과 MSE는 사전 오차와 켤레 성분 응답에 의존한다.
• IQLMS에 대해 에너지 보존 법칙이 수립되어, 반복 과정에서 가중치 오차의 제곱합과 정규화된 사전 오차 에너지의 합이 유지됨을 보여주며, 이는 안정성 분석을 지원한다.
• 엄밀한 선형 및 광범위한 선형 환경에서의 시뮬레이션 결과는 제안된 프레임워크의 이론적 수렴성과 기존 방법 대비 향상된 성능을 확인한다.