[논문 리뷰] Learning Linear Dynamical Systems with Semi-Parametric Least Squares

Max Simchowitz, Ross Boczar외 1명|arXiv (Cornell University)|2019. 02. 02.

Control Systems and Identification참고 문헌 40인용 수 30

한 줄 요약

이 논문은 반응이 부분적으로 관측되는 선형 동적 시스템을 반영하는 데 있어, 반정적 모수적 노이즈 조건 하에서 분산을 증명 가능하게 감소시키는 예비 필터링 최소 제곱 추정기(PF-LS)를 소개한다. 이는 장기적 의존성으로 인한 분산을 효과적으로 완화한다. 이는 상관관계의 감쇠률에 영향을 받지 않는 속도를 갖는 최초의 일致한 매개변수 추정 알고리즘을 확립하며, 엄격한 안정성 조건이 아닌 경계 안정성 조건 하에서도 성립한다. 이는 뉴턴 역학에 유사한 역학적 특성을 가진 시스템에 대해 확률적 노이즈와 악성 노이즈 모두에서 견고한 학습을 가능하게 한다.

ABSTRACT

We analyze a simple prefiltered variation of the least squares estimator for the problem of estimation with biased, semi-parametric noise, an error model studied more broadly in causal statistics and active learning. We prove an oracle inequality which demonstrates that this procedure provably mitigates the variance introduced by long-term dependencies. We then demonstrate that prefiltered least squares yields, to our knowledge, the first algorithm that provably estimates the parameters of partially-observed linear systems that attains rates which do not not incur a worst-case dependence on the rate at which these dependencies decay. The algorithm is provably consistent even for systems which satisfy the weaker marginal stability condition obeyed by many classical models based on Newtonian mechanics. In this context, our semi-parametric framework yields guarantees for both stochastic and worst-case noise.

연구 동기 및 목표

• 장기적 상관관계와 약하게 감쇠하는 의존성으로 인한 고분산 추정 문제를 해결하기 위해.
• 반정적 모수적 노이즈 조건 하에서 부분적으로 관측되는 선형 시스템에 대해 증명 가능하게 일치하는 추정기를 개발하기 위해.
• 이전 연구에서 존재하던 장기적 상관관계 감쇠률에 대한 악성 의존성을 제거하기 위해.
• 엄격한 안정성 조건이 아닌 더 약한 조건인 경계 안정성 조건을 만족하는 시스템으로까지 일치한 매개변수 추정을 확장하기 위해.

제안 방법

• 장기적 의존성을 분리하기 위해 입력 데이터에 사전 필터링 변환을 적용하는 예비 필터링 최소 제곱(PF-LS) 추정기를 제안한다.
• 입력이 i.i.d. 가우시안이 되도록 한 뉴먼-직교 설계를 사용하여, 노이즈와 회귀변수 간의 무상관성을 확보함으로써 반정적 모수적 일致성을 확보한다.
• 시스템을 구조적 응답 행렬 $ G_{\star} $를 갖는 반정적 모수적 회귀 모델로 모델링하며, 이는 입력에서 출력으로의 $ T $-단계 인력 응답을 나타낸다.
• 입력 벡터 $ \overline{\mathbf{u}}_t $를 과거 입력들을 시간 간격 $ T $ 동안 연결하여 구성하는 필터링 설계를 사용함으로써, 시스템의 유한 인력 응답을 추정할 수 있도록 한다.
• 시스템의 응답 행렬의 연산자 노름과 노이즈 항을 바탕으로 추정 오차를 유계로 제한하는 오рак루 불등식을 적용하여 견고성을 확보한다.
• 추정 오차에 대한 경계를 유도하며, 이는 시스템의 스펙트럼 감쇠률에 영향을 받지 않는 방식으로 $ \sqrt{N(m + \log(1/\delta))} $ 비례로 증가한다.

실험 결과

연구 질문

• RQ1 선형 동적 시스템에서 장기적 의존성으로 인한 분산을 줄이기 위해 최소 제곱 추정기를 수정할 수 있는가?
• RQ2 엄격한 안정성 조건을 가정하지 않고도 부분적으로 관측되는 선형 시스템에서 일치한 매개변수 추정을 달성할 수 있는가?
• RQ3 장기적 상관관계의 감쇠률에 의존하지 않는 추정 속도를 도출할 수 있는가?
• RQ4 제안된 방법이 확률적 노이즈와 악성 노이즈(무작위적) 모델 모두에서 일관성을 유지하는가?

주요 결과

• 예비 필터링 최소 제곱 추정기(PF-LS)는 뉴먼-직교성을 보장하는 필터링 메커니즘을 통해 장기적 의존성으로 인한 분산을 증명 가능하게 감소시킨다.
• 이 방법은 시스템 상관관계의 감쇠률에 영향을 받지 않는 추정 오차 경계를 달성하여, 이전 방법에서 존재하던 악성 의존성을 극복한다.
• 뉴턴 역학에 따라 움직이는 시스템과 같이 엄격한 안정성이 아닌 경계 안정성 조건을 만족하는 시스템에 대해서도 증명 가능하게 일관된 추정이 가능하다.
• 반정적 모수적 프레임워크는 확률적 노이즈와 악성 노이즈 모두에서 고확률로 성립하는 비점근적 오차 경계를 제공한다.
• 오차 경계는 $ \sqrt{N(m + \log(1/\delta))} $ 비례로 증가하며, 추가로 시스템의 응답과 노이즈 노름에 따라 변하지만, 스펙트럼 감쇠율에는 영향을 받지 않는다.
• 분석을 통해 시스템 응답 행렬의 연산자 노름과 노이즈 구조가 추정 오차의 주요 결정 요소임을 규명하였으며, 상관관계 감쇠률은 영향을 미치지 않는다.