[논문 리뷰] Finite Time Identification in Unstable Linear Systems

Mohamad Kazem Shirani Faradonbeh, Ambuj Tewari외 1명|arXiv (Cornell University)|2017. 10. 05.

Control Systems and Identification참고 문헌 17인용 수 4

한 줄 요약

이 논문은 불안정한 선형 동적 시스템에서 전이 행렬의 최소제곱 추정에 대해 유한 시간 식별 경계를 수립한다. 이는 무거운 尾비소음 조건 하에서도 성립한다. 무작위 행렬에 대한 집중 부등식과 마팅게일 차분의 반집중 성질을 활용하여, 시스템 차원, 전이 행렬의 고유값 특성, 소음 尾비행동에 따라 스케일링되는 비점근적 오차 경계를 도출한다.

ABSTRACT

Identification of the parameters of stable linear dynamical systems is a well-studied problem in the literature, both in the low and high-dimensional settings. However, there are hardly any results for the unstable case, especially regarding finite time bounds. For this setting, classical results on least-squares estimation of the dynamics parameters are not applicable and therefore new concepts and technical approaches need to be developed to address the issue. Unstable linear systems arise in key real applications in control theory, econometrics, and finance. This study establishes finite time bounds for the identification error of the least-squares estimates for a fairly large class of heavy-tailed noise distributions, and transition matrices of such systems. The results relate the time length (samples) required for estimation to a function of the problem dimension and key characteristics of the true underlying transition matrix and the noise distribution. To establish them, appropriate concentration inequalities for random matrices and for sequences of martingale differences are leveraged.

연구 동기 및 목표

• 기존의 최소제곱 방법이 상태 노출로 실패하는 불안정한 선형 동적 시스템에 대해, 유한 시간 식별 결과가 부족한 문제를 해결한다.
• 일반적인 무거운 尾비소음 분포 하에서 불안정한 시스템의 전이 행렬에 대한 최소제곱 추정에 대해 비점근적 오차 경계를 제공한다.
• 정확한 식별을 위한 표본 복잡도를 시스템 차원, 전이 행렬의 스펙트럼 성질, 소음 尾비행동에 따라 특성화한다.
• 무작위 행렬 이론과 마팅게일 차분 수열의 이론적 도구를 불안정한 동역학으로 확장하여 상태 노름의 지수적 증가를 극복한다.

제안 방법

• 전이 행렬 $A_0$ 의 스펙트럼 분해를 통해 상태 벡터의 역학을 안정 부분공간과 불안정 부분공간으로 분해한다.
• 무작위 행렬에 대한 집중 부등식을 적용하여, 불안정 부분공간 내 상태 궤적의 그램 행렬의 행동을 통제한다.
• 마팅게일 차분 수열의 반집중 성질을 사용하여, 소음 가중 상태 행렬의 최대 특이값을 경계한다.
• 고차원, 불안정한 설정에서 추정을 안정화하기 위해 그램 행렬 $\Sigma_n^{-1/2}$ 의 역제곱근을 통한 정규화 유사 구조를 도입한다.
• 안정 부분공간과 불안정 부분공간에 걸쳐 오차를 분해하여 최소제곱 추정기의 $\ell_2$ 추정 오차에 대한 고확률 경계를 유도한다.
• 스펙트럼 노름과 고유값 감쇠/성장률(예: $|\lambda_{\min}(A_2)|^{-n/3}$)을 활용하여, 불안정한 역학이 추정 오차에 미치는 영향을 정량화한다.

실험 결과

연구 질문

• RQ1 무거운 尾비소음 조건 하에서 불안정한 선형 시스템의 전이 행렬에 대한 최소제곱 추정에 대해, 어떤 유한 시간 오차 경계가 존재하는가?
• RQ2 필요한 표본 크기 $n$ 이 시스템 차원과 전이 행렬의 스펙트럼 성질에 따라 어떻게 스케일링되는가?
• RQ3 무작위 행렬에 대한 집중 부등식과 마팅게일 차분에 대한 부등식이, 상태 노름이 지수적으로 증가하는 불안정한 동역학을 다룰 수 있도록 적응될 수 있는가?
• RQ4 전이 행렬의 고유값과 소음 분포의 尾비행동이 식별 시간 범위를 결정하는 데 어떤 역할을 하는가?
• RQ5 특히 고유값 크기와 중복도 측면에서, 불안정 부분공간의 구조는 추정 오차에 어떻게 영향을 미치는가?

주요 결과

• 논문은 일반적인 무거운 尾비소음 조건 하에서 불안정한 선형 시스템에 대한 최소제곱 추정기의 $\ell_2$ 추정 오차에 대해 고확률 유한 시간 경계를 수립한다.
• 필요한 표본 크기 $n$ 은 시스템 차원 $p$, 전이 행렬의 불안정 부분의 스펙트럼 반경, 소음 분포의 尾비 두께에 따라 스케일링된다.
• 유리한 스펙트럼 조건 하에서 오차 경계는 $O(n^{-1/2})$ 로 감소하지만, 이 비율은 불안정 구성요소의 최소 고유값의 역수에 의해 조절된다.
• 불안정 부분공간에서는 상태 노름의 지수적 증가를 반영하여, $n^{\mu(A_2) - 1/2} |\lambda_{\min}(A_2)|^{-2n/3}$ 의 척도를 갖는 항을 통해 추정 오차가 통제된다.
• 분석 결과, 소음이 서브가우시안이거나 유한한 모멘트를 갖는 무거운 尾비소음일 경우, 시스템이 불안정하더라도 유한 시간 내에 정확한 식별이 가능하다는 것이 드러났다.
• 유도된 경계는 비점근적이며, 시스템의 불안정성, 소음 특성, 표본 복잡도 간의 상호 상관관계를 명시적으로 정량화한다.