[논문 리뷰] A Bayesian Filtering Algorithm for Gaussian Mixture Models

Adrian Wills, Johannes Hendriks외 2명|arXiv (Cornell University)|2017. 05. 16.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 12인용 수 4

한 줄 요약

이 논문은 가우시안 믹스처 모델(GMM)로 모델링된 상태공간 시스템을 위한 제곱근 베이지안 필터링 알고리즘을 제안하며, 혼합 성분 수의 지수적 증가를 제어하기 위해 쿨백-라이블러 발산 기반 GMM 압축 기법을 사용한다. 이 방법은 비선형성과 비정규성 존재 시에도 정확한 상태 추정을 가능하게 하며, 훨씬 적은 성분 수로도 순차 몬테카를로(SMC) 방법과 유사한 성능을 보인다.

ABSTRACT

A Bayesian filtering algorithm is developed for a class of state-space systems that can be modelled via Gaussian mixtures. In general, the exact solution to this filtering problem involves an exponential growth in the number of mixture terms and this is handled here by utilising a Gaussian mixture reduction step after both the time and measurement updates. In addition, a square-root implementation of the unified algorithm is presented and this algorithm is profiled on several simulated systems. This includes the state estimation for two non-linear systems that are strictly outside the class considered in this paper.

연구 동기 및 목표

• 가우시안 믹스처 모델(GMM)의 과정 및 측정 모델을 갖는 상태공간 시스템을 위한 수치적으로 안정적이고 효율적인 베이지안 필터링 알고리즘을 개발하기 위해.
• 정확한 베이지안 필터링에서 혼합 성분 수의 지수적 증가 문제를 쿨백-라이블러(KL) 발산 기반 GMM 압축 기법을 통해 해결하기 위해.
• 공분산 전파 과정에서 수치적 안정성과 계산 효율성을 향상시키기 위해 필터링 알고리즘을 제곱근 형태로 구현하기 위해.
• строго한 GMM 모델 클래스에 속하지 않는 비선형 및 시간에 따라 변하는 시스템에 대해 알고리즘의 성능을 평가하기 위해.
• SMC 방법과 유사한 성능을 달성하면서도 혼합 성분 수를 크게 줄일 수 있음을 입증하기 위해.

제안 방법

• 예측 밀도 및 필터링 밀도를 GMM 형태로 표현하여 시간 갱신 및 측정 갱신을 닫힌 형태로 수행한다.
• 각 갱신 후, 혼합 성분 수를 제한하기 위해 쿨백-라이블러(KL) 발산 기반 GMM 압축을 적용한다.
• 공분산 전파 과정에서 수치적 안정성을 향상시키기 위해 새로운 제곱근 형태의 KL GMM 압축을 개발한다.
• 각 혼합 성분의 평균 주변에서 라플라스 근사 기법을 사용한 국소 선형화를 통해 비선형성을 처리한다.
• 예측 및 필터링 밀도를 분할된 GMM 구조로 표현하며, 각 성분을 $N_s$개의 하위 성분으로 나누어 근사 정확도를 향상시킨다.
• 모의 비선형 시스템에서 알려진 참값이 존재하는 상황에서 SMC 필터와의 비교를 통해 방법의 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 GMM 기반 상태공간 모델을 위한 베이지안 필터링 알고리즘을 제곱근 형태로 구현함으로써 수치적 안정성과 계산 효율성을 향상시킬 수 있는가?
• RQ2 KL 발산 기반 GMM 압축 기법이 필터링 응용에서 혼합 성분 수의 지수적 증가를 얼마나 효과적으로 제어하는가?
• RQ3 제안된 필터는 모델 클래스의 엄격한 GMM 가정을 위반하는 비선형성 및 비정규성 존재 시스템을 어느 정도 잘 처리할 수 있는가?
• RQ4 정확도와 성분 수 측면에서 GMM 필터의 성능은 SMC 방법과 비교해 어떻게 되는가?
• RQ5 KL 압축 알고리즘의 제곱근 형태는 악조건의 공분산에 대한 계산 민감도를 줄이며 수치 정확도를 유지할 수 있는가?

주요 결과

• GMMF 알고리즘은 GMM 모델 클래스에 엄격히 속하지 않는 비선형성과 시간에 따라 변하는 동역학을 갖는 시스템에서도 정확한 상태 추정을 유지하는 데 성공한다.
• GMMF에서 생성된 필터링 상태 밀도는 SMC 방법과 매우 유사하며, 첫 번째 필터링 단계 이후 최대 35개의 혼합 성분을 사용하는 동안에도 높은 일치도를 보였다.
• GMMF에서 예측 및 필터링 평균 궤적은 시간에 따른 시계열도를 통해 참 상태와 강한 일치를 보였다.
• 제곱근 형태의 구현은 고차원 또는 악조건의 공분산 상황에서 수치적 안정성을 확보한다.
• 성분 분할과 함께 라플라스 근사를 적용함으로써 비선형 영역에서 선형화된 GMM 근사의 정확도가 크게 향상되었다.
• KL 기반 GMM 압축은 정확도와 계산 복잡도 사이의 균형을 효과적으로 유지하며, 최소한의 성분 수로도 높은 정밀도를 유지를 한다.