[논문 리뷰] Factored Filtering of Continuous-Time Systems

E. Busra Celikkaya, Christian R. Shelton외 1명|arXiv (Cornell University)|2012. 02. 14.

Distributed Sensor Networks and Detection Algorithms참고 문헌 17인용 수 5

한 줄 요약

이 논문은 큰 상태 공간을 가진 연속시간 확률적 시스템을 위한 인자 분해 필터링 방법을 제안한다. 행렬 지수 계산을 위해 미분방정식 통합과 테일러 급수의 균일화를 사용한다. 인자 분해 균일화에서 유한한 KL 발산을 보여주며, 실험적으로 평균 필드 및 이전 균일화 방법보다 뛰어난 성능을 보인다.

ABSTRACT

We consider filtering for a continuous-time, or asynchronous, stochastic system where the full distribution over states is too large to be stored or calculated. We assume that the rate matrix of the system can be compactly represented and that the belief distribution is to be approximated as a product of marginals. The essential computation is the matrix exponential. We look at two different methods for its computation: ODE integration and uniformization of the Taylor expansion. For both we consider approximations in which only a factored belief state is maintained. For factored uniformization we demonstrate that the KL-divergence of the filtering is bounded. Our experimental results confirm our factored uniformization performs better than previously suggested uniformization methods and the mean field algorithm.

연구 동기 및 목표

• 큰 상태 공간으로 인해 전체 믿음 상태 계산이 불가능한 연속시간 확률적 시스템에서 필터링의 과제를 해결한다.
• 계산 복잡도를 줄이기 위해 믿음 분포를 근사적으로 근사하는 가속화 가능한 필터링 방법을 개발한다.
• 인자 분해 균일화 접근법에서 KL 발산을 경계함으로써 근사 오차에 대한 이론적 보장을 확보한다.
• 기존 방법들인 평균 필드 근사 및 표준 균일화 방법보다 필터링 정확도를 향상시킨다.
• 미분방정식 통합과 균일화된 테일러 전개를 사용하여 연속시간 필터링의 核심 연산인 행렬 지수 계산을 효율적으로 수행한다.

제안 방법

• 고차원 시스템에서의 확장 가능한 추론을 가능하게 하기 위해 믿음 분포를 근사적으로 근사한다.
• 시간에 따라 믿음을 전파하기 위한 핵심 연산으로 행렬 지수 계산을 사용한다.
• 행렬 지수 계산을 위한 두 가지 방법을 구현한다: 수치적 미분방정식 통합과 테일러 급수 전개의 균일화.
• 필터링 중 메모리 및 계산 요구량을 줄이기 위해 인자 분해 믿음 상태 유지 기법을 적용한다.
• 테일러 급수 근사를 안정화하기 위해 균일화를 적용하여 효율적이고 수치적으로 안정된 계산을 가능하게 한다.
• 균일화 프레임워크 하에서 진짜 믿음 분포와 인자 분해 믿음 분포 간의 KL 발산에 대한 이론적 경계를 유도한다.

실험 결과

연구 질문

• RQ1 인자 분해 믿음 근사는 큰 상태 공간 시스템에서 연속시간 필터링에 대해 확장 가능한 해결책을 제공할 수 있는가?
• RQ2 인자 분해 필터링의 정확도는 평균 필드 근사 및 표준 균일화 방법과 비교해 어떻게 되는가?
• RQ3 인자 분해 필터링 근사의 KL 발산은 이론적으로 경계될 수 있는가?
• RQ4 행렬 지수 계산에 있어 미분방정식 통합과 균일화 간의 계산적 트레이드오프는 무엇인가?
• RQ5 실험 평가에서 인자 분해 균일화가 이전 균일화 및 평균 필드 접근법을 초월하는가?

주요 결과

• 인자 분해 균일화 방법은 경계된 KL 발산을 달성하여 근사 품질에 대한 이론적 신뢰를 제공한다.
• 실험 결과 인자 분해 균일화가 평균 필드 알고리즘과 표준 균일화 방법 모두보다 필터링 정확도에서 뛰어나다.
• 이 방법은 인자 분해 믿음 상태를 유지함으로써 전체 믿음 표현에 비해 메모리 및 계산 비용을 크게 줄인다.
• 균일화를 통한 행렬 지수 계산은 이 응용 분야에서 미분방정식 통합에 대한 수치적으로 안정적이고 효율적인 대안을 제공한다.
• 이러한 방법은 상태 공간 크기로 인해 전체 믿음 상태 계산이 불가능한 시스템에 효과적으로 스케일링된다.
• 인자 표현과 균일화된 행렬 지수의 조합은 테스트된 벤치마크 전반에서 뛰어난 성능을 낸다.