[논문 리뷰] Sample Complexity of Kalman Filtering for Unknown Systems

Anastasios Tsiamis, Nikolai Matni외 1명|arXiv (Cornell University)|2019. 12. 27.

Control Systems and Identification참고 문헌 24인용 수 6

한 줄 요약

이 논문은 비알려진 선형 시간 불변 시스템에서 칼만 필터링을 위한 종단 간 샘플 복잡도 분석을 제안하며, 부분공간 시스템 식별과 확실성 등가(Certainty Equivalent, CE) 및 강건 칼만 필터 설계를 융합한다. 이는 CE 및 강건 필터가 모두 높은 확률로 평균 제곱 예측 오차가 $\tilde{O}(1/\sqrt{N})$ 이내로 유 bounds됨을 입증하며, 이는 비알려진 시스템에 대한 칼만 필터링에서 처음으로 이러한 유한 샘플 보장을 제공한다.

ABSTRACT

In this paper, we consider the task of designing a Kalman Filter (KF) for an unknown and partially observed autonomous linear time invariant system driven by process and sensor noise. To do so, we propose studying the following two step process: first, using system identification tools rooted in subspace methods, we obtain coarse finite-data estimates of the state-space parameters and Kalman gain describing the autonomous system; and second, we use these approximate parameters to design a filter which produces estimates of the system state. We show that when the system identification step produces sufficiently accurate estimates, or when the underlying true KF is sufficiently robust, that a Certainty Equivalent (CE) KF, i.e., one designed using the estimated parameters directly, enjoys provable sub-optimality guarantees. We further show that when these conditions fail, and in particular, when the CE KF is marginally stable (i.e., has eigenvalues very close to the unit circle), that imposing additional robustness constraints on the filter leads to similar sub-optimality guarantees. We further show that with high probability, both the CE and robust filters have mean prediction error bounded by $ ilde O(1/\sqrt{N})$, where $N$ is the number of data points collected in the system identification step. To the best of our knowledge, these are the first end-to-end sample complexity bounds for the Kalman Filtering of an unknown system.

연구 동기 및 목표

• 시스템 파라미터가 알려지지 않은 상황에서 유한 데이터로부터 추정할 때 칼만 필터링 성능에 대한 이론적 이해의 격차를 메우기 위해.
• 과정 및 센서 노이즈가 존재하는 부분 관측 가능하고 자율적인 LTI 시스템에서 칼만 필터링의 유한 샘플 성능 보장을 제공하기 위해.
• 특히 고유값이 단위 원에 가까울 때 파라미터 추정 오차 하에서 확실성 등가(CE) 칼만 필터의 강건성 분석을 위해.
• CE 필터가 경계적으로 안정적일 경우에도 하위 최적화 보장을 유지할 수 있도록 강건 칼만 필터 설계를 개발하기 위해.
• 시스템 식별 오차 한계를 칼만 필터 성능과 융합하여 종단 간 샘플 복잡도 결과를 도출하기 위해.

제안 방법

• 균형 실현을 사용한 부분공간 시스템 식별을 통해 $N$개의 데이터 포인트로부터 상태공간 행렬 $A$, $C$ 및 칼만 이득 $K$를 추정한다.
• 두 단계 파ipeline을 적용: 먼저 부분공간 방법을 통해 시스템 파라미터를 추정하고, 그 다음 추정된 파라미터를 사용해 칼만 필터를 설계한다.
• 추정된 파라미터 $\hat{A}, \hat{C}, \hat{K}$를 직접 사용하여 확실성 등가(CE) 칼만 필터를 정의한다.
• CE 필터가 경계적으로 안정적인 경우에 안정성을 향상시키기 위해 닫힌 루프 맵에 제약 조건을 도입하여 강건 칼만 필터를 설계한다.
• 시스템 실현에서 추정 오차가 유한하게 유지되도록 강건성 조건 $\|\hat{G} - G\|_2 \leq \sigma_n(G)/4$ 를 사용한다.
• Tsiamis와 Pappas(2019)의 유한 데이터 시스템 식별 한계를 활용하여 종단 간 오차 보장을 유도한다.

실험 결과

연구 질문

• RQ1 시스템 동역학이 알려지지 않은 상태에서 유한 데이터로부터 추정할 경우 정확한 칼만 필터링을 위해 필요한 샘플 복잡도는 무엇인가?
• RQ2 확실성 등가 칼만 필터가 하위 최적의 평균 제곱 예측 오차를 유지하는 조건은 무엇인가?
• RQ3 경계적으로 안정적인 CE 필터를 안정화하기 위해 필터 설계에 강건성을 어떻게 명시적으로 강제할 수 있는가?
• RQ4 시스템 식별과 칼만 필터링을 통합했을 때 종단 간 평균 제곱 예측 오차의 상한은 무엇인가?
• RQ5 유한 샘플 영역에서 시스템 식별 오차와 관측 가능성은 최종 필터 성능에 어떻게 영향을 미치는가?

주요 결과

• 확실성 등가 및 강건 칼만 필터의 평균 제곱 예측 오차는 모두 높은 확률로 $\tilde{O}(1/\sqrt{N})$ 이내로 유 bounds되며, 여기서 $N$은 데이터 포인트 수이다.
• 시스템 식별 오차가 작거나 진짜 칼만 필터가 강건할 경우 CE 칼만 필터는 거의 최적의 성능을 달성한다.
• CE 필터가 경계적으로 안정적일 경우(고유값이 단위 원에 가까울 경우), 강건 필터 설계는 개선된 안정성과 함께 유사한 하위 최적화 보장을 보장한다.
• 종단 간 한계는 시스템 특성 상수 $\mathcal{C}_{ID}$ 및 $\mathcal{C}_{KF}$ 에 따라 달라지며, $\mathcal{C}_{ID}$ 는 시스템 식별의 난이도를, $\mathcal{C}_{KF}$ 는 필터 성능을 반영한다.
• 한계는 유사성 변환 $ST$ 까지 유지되며, $\|S\|_2$ 와 $\|S^{-1}\|_2$ 가 유한하므로 오차 한계는 비어 있지 않다.
• 분석은 유한 데이터 시스템 식별 보장을 칼만 필터 성능과 융합하여, 비알려진 시스템 칼만 필터링에 대해 처음으로 종단 간 샘플 복잡도 한계를 도출한다.