[논문 리뷰] LMMSE Estimation and Interpolation of Continuous-Time Signals from Discrete-Time Samples Using Factor Graphs

Lukas Bolliger, Hans‐Andrea Loeliger외 1명|arXiv (Cornell University)|2013. 01. 21.

Bayesian Modeling and Causal Inference참고 문헌 24인용 수 9

한 줄 요약

이 논문은 연속시간 신호를 이산시간 노이지 샘플로부터 선형 최소 제곱 오차(LMMSE) 추정을 위한 요소 그래프 기반 방법을 제안한다. 이는 백색 가우시안 입력을 갖는 연속시간 시스템으로 칼만 필터링을 확장한 것으로, 특히 밴드리미티드 가정이 필요 없는 고해상도 입력 신호, 상태, 출력 신호 추정을 가능하게 한다. 이는 기존 칼만 필터링 문헌에서 다루지 않은 연속시간 입력 신호 추정 문제에 대한 새로운 해결책을 제공한다.

ABSTRACT

The factor graph approach to discrete-time linear Gaussian state space models is well developed. The paper extends this approach to continuous-time linear systems/filters that are driven by white Gaussian noise. By Gaussian message passing, we then obtain MAP/MMSE/LMMSE estimates of the input signal, or of the state, or of the output signal from noisy observations of the output signal. These estimates may be obtained with arbitrary temporal resolution. The proposed input signal estimation does not seem to have appeared in the prior Kalman filtering literature.

연구 동기 및 목표

• 선형 시간 불변 시스템에서 이산시간 노이지 관측치로부터 연속시간 신호의 체계적 LMMSE 추정 방법을 개발하기 위해.
• 기존에 이산시간 칼만 필터링에 사용되어 온 요소 그래프 프레임워크를 백색 가우시안 노이즈로 구동되는 연속시간 시스템으로 확장하기 위해.
• 이산 샘플링된 노이지 관측치로부터 입력 신호 U(t), 상태, 출력 신호 Y(t)의 고해상도 추정을 가능하게 하기 위해.
• 샘플링 지터 보정 및 불안정한 필터를 갖는 아날로그-디지털 변환과 같은 응용 분야에 대한 이론적 기반을 제공하기 위해.
• 칼만 필터링 문헌에서 연속시간 입력 신호의 LMMSE 추정에 대한 격차를 메우기 위해.

제안 방법

• 시스템은 백색 가우시안 입력 신호 U(t)로 구동되는 연속시간 선형 시간 불변 필터로 모델링되며, 출력 Y(t)는 정규 또는 비정규 간격으로 샘플링되고, 덧셈형 백색 가우시안 노이즈 Zk에 의해 훼손된다.
• 요소 그래프 표현은 연속시간 동역학과 이산시간 관측치를 모두 포함하며, 추론을 위해 가우시안 메시지 전파를 가능하게 한다.
• 시스템의 시간 간격에 따른 진동을 모델링하기 위해 행렬 지수와 상태 전이 행렬(e^{At})을 사용한다.
• 시스템 행렬 A의 스펙트럼 분해를 통해 유도된 연속시간 리아푸노프 방정식의 해를 적용하여 공분산 전파를 수행한다.
• LMMSE 추정치 U(t)는 정규화된 최소 제곱법을 통해 계산되며, 정규화 항 ∫u(t)²dt를 포함하여 티콘코프 정규화와 연결된다.
• 시간 간격을 이산화하고 반복적 메시지 전파를 적용함으로써 추정의 임의의 시간 해상도를 허용한다.

실험 결과

연구 질문

• RQ1 이산시간 노이지 관측치를 갖는 시스템에서 연속시간 입력 신호의 LMMSE 추정을 요소 그래프 프레임워크 내에서 어떻게 수립할 수 있는가?
• RQ2 입력 신호가 백색 가우시안 노이즈이고 시스템이 선형 시간 불변일 경우, U(t)의 LMMSE 추정치의 수학적 구조는 어떠한가?
• RQ3 제안된 방법은 기존 칼만-부체 필터링에서 다루지 않는 연속시간 입력 신호 추정을 어떻게 확장하는가?
• RQ4 요소 그래프 접근법을 사용하여 이산 샘플링된 노이지 출력 데이터로부터 U(t), Y(t), 시스템 상태의 고해상도 추정치를 유도할 수 있는가?
• RQ5 입력 신호의 전력 σU²과 이산시간 관측치의 신호 대 노이즈비(SNR) 사이의 관계는 무엇이며, 어떻게 유도되는가?

주요 결과

• U(t)의 연속시간 입력 신호에 대한 LMMSE 추정치는 U(t)가 밴드리미티드가 아니더라도 요소 그래프 상의 가우시안 메시지 전파를 통해 잘 정의되고 계산 가능하다.
• 추정 오차의 공분산에 대한 닫힌 형태의 표현식이 존재하며, 이는 행렬 적분 ∫₀ᵗ e^{Aτ}bbᵀe^{Aᵀτ}dτ로부터 유도된다.
• 상태 공분산 행렬의 해는 시스템 행렬 A의 스펙트럼 분해를 통해 유도되며, 고유값과 고유벡터의 형태로 표현된다.
• 정 steady-state 조건 하에서 이산시간 관측치의 SNR는 시간 색인 k에 따라 영향을 받지 않으며, E[Yₖ²]는 시스템의 전달 함수와 입력 전력 σU²를 통해 표현된다.
• 연속시간 시스템을 N개의 이산 단계로 분할함으로써 고해상도 신호 추정이 가능하며, N → ∞ 일 때 정확한 결과로 수렴한다.
• 샘플링 지터 보정 및 불안정한 필터를 갖는 아날로그-디지털 변환 등 응용을 통해 방법의 실용성이 검증되었으며, 이론적 확장 외에도 실제 응용에 유용함을 보여준다.