[논문 리뷰] Efficient learning of hidden state LTI state space models of unknown order

Boualem Djehiche, Othmane Mazhar|arXiv (Cornell University)|2022. 02. 03.

Blind Source Separation Techniques인용 수 4

한 줄 요약

이 논문은 단일 관측 경로에서 상태 차원이 알려지지 않은 숨겨진 상태 선형 정수형(LTI) 상태공간 모델을 학습하기 위한 새로운 알고리즘을 제안한다. 헨켈 정규화 최소제곱과 수정된 호-칼만 절차를 조합함으로써, 고확률적으로 빠른 $S_2$-노름 추정 속도와 정확한 시스템 차원 복원을 달성하며, 이는 이전 연구 대비 샘플 복잡도와 차원 의존성에서 크게 향상된다.

ABSTRACT

The aim of this paper is to address two related estimation problems arising in the setup of hidden state linear time invariant (LTI) state space systems when the dimension of the hidden state is unknown. Namely, the estimation of any finite number of the system's Markov parameters and the estimation of a minimal realization for the system, both from the partial observation of a single trajectory. For both problems, we provide statistical guarantees in the form of various estimation error upper bounds, $ ank$ recovery conditions, and sample complexity estimates. Specifically, we first show that the low $ ank$ solution of the Hankel penalized least square estimator satisfies an estimation error in $S_p$-norms for $p \in [1,2]$ that captures the effect of the system order better than the existing operator norm upper bound for the simple least square. We then provide a stability analysis for an estimation procedure based on a variant of the Ho-Kalman algorithm that improves both the dependence on the dimension and the least singular value of the Hankel matrix of the Markov parameters. Finally, we propose an estimation algorithm for the minimal realization that uses both the Hankel penalized least square estimator and the Ho-Kalman based estimation procedure and guarantees with high probability that we recover the correct order of the system and satisfies a new fast rate in the $S_2$-norm with a polynomial reduction in the dependence on the dimension and other parameters of the problem.

연구 동기 및 목표

• 상태 차원이 알려지지 않은 숨겨진 상태 LTI 시스템에서 마르코프 매개변수와 최소 실현을 추정하는 문제에 대응하기 위해.
• 단일 경로 학습을 위한 비점근 통계적 보장을 제공하며, 추정 오차 한계와 샘플 복잡도 추정치를 포함한다.
• 기존 방법에 비해 시스템 차원과 헨켈 행렬의 특이값에 대한 의존도를 줄이기 위해.
• 고확률적으로 진짜 시스템 차원을 정확히 복원하면서도, 빠른 수렴 속도를 유지하기 위해.

제안 방법

• Hankel 정규화 최소제곱 추정기로 $p \in [1,2]$에 대해 $S_p$-노름 오차 한계가 향상된 마르코프 매개변수를 복원한다.
• 헨켈 행렬의 가장 작은 특이값에 민감도가 낮고 안정성이 높은 호-칼만 알고리즘의 변종을 적용한다.
• 질량 회복과 안정성을 보장하기 위해 $T_1 = \bar{d}_0 + 1$ (여기서 $\bar{d}_0 = d_0 \vee \check{\eta}$)의 버닝 인 시간을 도입한다.
• 두 단계 추정 절차를 활용: 먼저 정규화된 회귀를 통해 마르코프 매개변수를 추정하고, 이후 수정된 호-칼만 알고리즘을 적용해 최소 실현을 추출한다.
• 시스템 차원에 대해 다항적으로 증가하고 관측 가능성 행렬의 가장 작은 특이값에 반비례하는 명시적 샘플 복잡도 한계를 유도한다.
• 서브가우시안 노이즈 가정 하에 고확률 보장을 확립하기 위해 농도 불등식과 서브가우시안 尾 꼬리 한계를 사용한다.

실험 결과

연구 질문

• RQ1 숨겨진 상태 LTI 시스템에서 차원이 알려지지 않은 경우 마르코프 매개변수에 대해 빠른 $S_2$-노름 추정 속도를 달성할 수 있는가?
• RQ2 단일 경로로부터 진짜 시스템 차원을 고확률적으로 복원할 수 있는가?
• RQ3 시스템 차원이 알려지지 않은 경우 마르코프 매개변수를 추정하기 위한 최적의 샘플 복잡도는 무엇인가?
• RQ4 기존 최소제곱 및 호-칼만 접근법에 비해 제안된 방법은 차원 의존성과 특이값 민감도 측면에서 어떻게 향상되는가?
• RQ5 점근적이지 않은 오차 한계를 유도할 수 있으며, 이는 추정된 차원이 아닌 진짜 시스템 차원을 반영하는가?

주요 결과

• 헨켈 정규화 최소제곱 추정기는 고확률적으로 $S_2$-노름 추정 오차 한계 $\mathcal{L}^\mathcal{M}_2(\hat{\mathcal{M}},\bar{\mathcal{M}}) \leq \frac{20(1+|\bar{A}|_{S_\infty})(\bar{d}_0+\eta+1)^{3/2}\lambda_1}{(\sqrt{2}-1)^{1/2}s_{d_0}(Hg_{0,d_0})\sigma_u^2}$ 를 달성한다.
• 표본 복잡도 $\mathcal{L}^H_2(\hat{g},g_0) \leq \epsilon$ 를 달성하기 위해 $\bar{N} \gtrsim \frac{\phi^2(1+|\bar{A}|_{S_\infty})^2(d_0+\eta)^3N_0}{s_{d_0}^2(Hg_{0,d_0})\epsilon^2}$ 로 스케일링되며, 이는 차원에 대해 다항적이고 특이값 갭에 대해 역수적임을 보여준다.
• 이 방법은 고확률적으로 정확한 시스템 차원 복원을 보장하며, 이는 이전 연구에서 관찰된 $\hat{d}$에 대한 지수적 의존도를 피한다.
• 오차 한계는 추정된 $\hat{d}$가 아닌 진짜 차원 $d_0$에 의존하므로, 강인성과 해석 가능성 향상에 기여한다.
• 기존 표준 호-칼만 방법에 비해 헨켈 행렬의 가장 작은 특이값에 대한 의존도를 감소시켜 안정성을 향상시킨다.
• 기존의 방법은 가장 작은 특이값 갭에만 민감한 반면, 제안된 방법은 모든 특이값 갭에 대한 민감도를 제거하여 기존 연구 대비 향상된 성능을 달성한다.