[논문 리뷰] Linear System Identification via Atomic Norm Regularization

Parikshit Shah, Badri Narayan Bhaskar외 2명|arXiv (Cornell University)|2012. 04. 03.

Control Systems and Identification참고 문헌 15인용 수 8

한 줄 요약

이 논문은 단일극 필터를 기반으로 한 원자 노름 정규화를 사용하여 선형 시스템 식별을 위한 볼록 최적화 프레임워크를 제안한다. 이는 제한된 노이즈가 섞인 측정치로부터 안정적인 추정을 가능하게 하며, H₂-노름에서 渐近적 일致성과 날카운드한 오차 경계를 달성한다. 계산 효율성은 ℓ₁-근사와 이론적 보장에 의해 확보되며, 이는 추정 오차가 시스템 안정성, McMillan 차수 및 측정 수에 직접적으로 연결됨을 보여준다.

ABSTRACT

This paper proposes a new algorithm for linear system identification from noisy measurements. The proposed algorithm balances a data fidelity term with a norm induced by the set of single pole filters. We pose a convex optimization problem that approximately solves the atomic norm minimization problem and identifies the unknown system from noisy linear measurements. This problem can be solved efficiently with standard, freely available software. We provide rigorous statistical guarantees that explicitly bound the estimation error (in the H_2-norm) in terms of the stability radius, the Hankel singular values of the true system and the number of measurements. These results in turn yield complexity bounds and asymptotic consistency. We provide numerical experiments demonstrating the efficacy of our method for estimating linear systems from a variety of linear measurements.

연구 동기 및 목표

• 제한된 노이즈가 섞인 입력-출력 측정치로부터 선형 시간 불변 시스템을 일관적이고 계산적으로 효율적인 방법으로 식별하는 것.
• 기존 시스템 식별 기법에서의 통계적 보장을 부족한 점, 특히 유한 표본 성능 및 노이즈와 모델 불일치에 대한 민감도에 대응하는 것.
• 원자 노름 정규화를 통해 McMillan 차수를 작게 유지함으로써 낮은 복잡도의 모델을 장려하는 볼록 최적화 프레임워크를 제공하는 것.
• 시스템 안정성 반경, 하켈 단일값 및 측정 수에 명시적으로 의존하는 H₂-노름에서 엄밀한 오차 경계를 수립하는 것.
• 시스템 차수를 사전에 알지 못하는 경우에도 기존의 부분공간 식별 기법보다 뛰어난 성능을 보이는 것을 입증하는 것.

제안 방법

• 시스템 식별을 단일극 전달 함수에 의해 유도된 원자 노름으로 정규화된 최소 제곱 데이터 적합성 항을 최소화하는 볼록 최적화 문제로 공식화한다.
• 원자 노름이 히 Hankel 핵심 노름과 동일시됨을 보여주며, 이는 시스템 복잡성과 안정성과의 이론적 연결을 가능하게 한다.
• 무한차원 원자 노름을 극점 공간의 격자에 대한 이산화를 통해 유한차원 ℓ₁-정규화 문제로 근사함으로써, 표준 솔버를 이용한 효율적 해법을 가능하게 한다.
• 측정 모델은 시스템 주파수 응답을 정규 간격으로 샘플링하는 것을 가정하며, 노이즈는 하위가우시안으로 모델링되어 확률적 오차 분석이 가능하다.
• 볼록 분석 및 ε-넷 추론을 사용하여 측정 오차를 노이즈 통계 및 원자 집합의 기하학적 구조에 따라 경계한다.
• 다중입력다중출력(MIMO) 시스템으로의 확장을 위해 극점, 입력 및 출력으로 매개변수화된 유리 전달 함수의 적절한 원자 집합을 정의한다.

실험 결과

연구 질문

• RQ1 원자 노름 정규화는 유한하고 노이즈가 섞인 측정치로부터 명시적인 오차 경계를 제공하는 일관된 시스템 식별을 가능하게 할 수 있는가?
• RQ2 추정 오차는 측정 수, 시스템 안정성 반경 및 McMillan 차수에 따라 어떻게 변화하는가?
• RQ3 데이터가 부족하고 시스템 차수가 알려져 있지 않은 경우, 기존의 부분공간 식별 기법보다 이 방법이 뛰어난 성능을 보일 수 있는가?
• RQ4 원자 노름 접근법은 계산적으로 실현 가능하고 확장 가능한가, 특히 정준형 프로그래밍 방법과 비교하여 말이다?
• RQ5 통계적 일치성과 계산 효율성을 유지하면서 이 방법을 MIMO 시스템으로 확장할 수 있는가?

주요 결과

• 제안된 방법은 H₂-노름에서 渐近적 일치성을 달성하며, 정규 샘플링 하에서 추정 오차가 O(√(log m)/m)의 속도로 감소함을 보여준다. 여기서 m은 측정 수이다.
• 오차 경계는 시스템의 안정성 반경과 하켈 단일값에 명시적으로 의존하며, 이는 시스템의 복잡성과 안정성이 추정 정확도에 미치는 영향을 정량화한다.
• 수치 실험 결과, 수치가 적은 경우(10–50개)에 DAST 방법이 부분공간 식별보다 뚜렷이 뛰어난 성능을 보이며, 진짜 시스템 차수를 알지 못하는 경우에도 유사한 우수성을 유지한다.
• 기존의 부분공간 식별 기법과 달리, 이 방법은 시스템 차수에 대한 사전 지식이 필요로 하지 않으며, 모델 차수를 잘못 지정할 경우 성능이 급격히 떨어지는 문제를 피할 수 있다.
• 원자 노름 정규화는 격자 위에서의 ℓ₁-근사에 의해 계산적으로 실현 가능하며, 정준형 프로그래밍의 초선형 복잡도를 피한다.
• 이론적 분석을 통해 이 방법이 near-최적의 추정 오차 비율을 달성함을 확인하였으며, 원자 집합의 기하학적 분석을 정교화함으로써 향후 개선 가능성을 제시한다.