[논문 리뷰] Low-Rank and Low-Order Decompositions for Local System Identification

Nikolai Matni, Anders Rantzer|arXiv (Cornell University)|2014. 03. 27.

Sparse and Compressive Sensing Techniques참고 문헌 12인용 수 15

한 줄 요약

이 논문은 저질서 및 저질서 분해를 이용하여 대규모 분산 시스템에서 국소적 동역학과 전역적 상호연결을 분리하기 위한 핵노름 최소화 접근법을 제안한다. 국소적 동역학은 저차수이지만 전순위이고, 전역적 동역학은 고차수이지만 저질서라는 구조적 차이를 활용함으로써, 상호연결 신호가 숨겨져 있는 경우에도 정확한 국소 시스템 식별이 가능하며, 시뮬레이션 실험에서 노이즈 수준에 근접한 추정 오차를 달성한다.

ABSTRACT

As distributed systems increase in size, the need for scalable algorithms becomes more and more important. We argue that in the context of system identification, an essential building block of any scalable algorithm is the ability to estimate local dynamics within a large interconnected system. We show that in what we term the "full interconnection measurement" setting, this task is easily solved using existing system identification methods. We also propose a promising heuristic for the "hidden interconnection measurement" case, in which contributions to local measurements from both local and global dynamics need to be separated. Inspired by the machine learning literature, and in particular by convex approaches to rank minimization and matrix decomposition, we exploit the fact that the transfer function of the local dynamics is low-order, but full-rank, while the transfer function of the global dynamics is high-order, but low-rank, to formulate this separation task as a nuclear norm minimization.

연구 동기 및 목표

• 전역적 상호연결이 국소적 동역학을 가림으로써 발생하는 대규모 분산 시스템에서의 확장 가능한 시스템 식별 도전 과제를 해결한다.
• 실제 시스템에서 흔한 제약인 상호연결 신호가 완전히 측정되지 않을 경우에도 국소 하위시스템의 동역학을 식별할 수 있는 방법을 개발한다.
• 국소 구성요소는 저차수이지만 전순위이고, 전역 구성요소는 고차수이지만 저질서라는 시스템 동역학의 구조적 차이를 활용하여 볼록 최적화를 통해 그 기여를 분리한다.
• 이웃 하위시스템과의 통신이나 시스템 구조에 대한 사전 지식이 필요 없는 확장 가능한 국소 알고리즘을 제공한다.
• 측정 노이즈에 강건하고, 숨겨진 상호연결 신호가 존재하는 상황에서도 정확한 국소 모델 추정이 가능하게 한다. 향후 전역 상호연결 재구성 방법과의 통합 가능성을 고려한다.

제안 방법

• 국소 시스템 식별 문제를 행렬 분해 과제로 공식화하여 인과응답을 국소(저차수, 전순위) 및 전역(고차수, 저질서) 구성요소로 분리한다.
• 전역 동역학 구성요소의 저질서 구조를 촉진하기 위해 핵노름 최소화를 사용하며, 질서 최소화를 위한 볼록 근사화를 활용한다.
• 숨겨진 상호연결의 경우, 국소 입력 및 상호연결 신호에서 국소 출력으로의 전달함수를 서로 다른 구조적 특성을 지닌 두 구성요소의 합으로 모델링한다.
• 전역 구성요소에 대해 저질서 구조를 강제하면서 국소 구성요소의 저차수 성질을 유지하는 볼록 최적화 프로그램을 해결한다(예: 식 (27) 및 (18)).
• 추정 오차를 제어하고 측정 노이즈에 대한 강건성을 확보하기 위해 프로베니우스 노름 제약을 적용한다.
• 한켈 행렬의 특이값 분해(SVD)를 통해 국소 시스템의 진짜 차수와 숨겨진 상호연결 부분공간의 차수를 확인한다.

실험 결과

연구 질문

• RQ1 상호연결 신호가 직접 측정되지 않을 경우 국소 시스템 동역학을 정확히 식별할 수 있는가?
• RQ2 저차수/전순위 국소 동역학과 고차수/저질서 전역 동역학 간의 구조적 차이를 볼록 최적화를 통해 그 기여를 분리하는 데 활용할 수 있는가?
• RQ3 핵노름 최소화가 숨겨진 상호연결 신호와 측정 노이즈가 존재하는 상황에서 정확한 국소 시스템 식별을 어느 정도 가능하게 하는가?
• RQ4 이 방법은 국소 시스템의 진짜 차수와 숨겨진 상호연결 부분공간의 차수를 정확히 식별할 수 있는가?
• RQ5 상호연결 신호가 완전히 관측될 경우, 기존의 시스템 식별 기법과 비교해 본다면 이 방법의 성능는 어떠한가?

주요 결과

• 전체 상호연결 측정 설정에서, 이 방법은 추정 오차 ‖Ŝⁱ − Sⁱ‖_F = 0.008을 달성하였으며, 이는 ‖S‖_F = 2.871에 비해 노이즈 수준 내에 있다.
• 숨겨진 상호연결의 경우, 추정 오차는 ‖Ŝⁱ − Sⁱ‖_F = 0.093로 노이즈 수준을 초과하지만 여전히 국소 동역학의 합리적인 추정치이다.
• 한켈 행렬 𝒫(H(Sⁱ))의 상위 세 개의 특이값은 다양한 매개변수 범위에서 나머지 특이값들보다 최소한 한 계급 이상 크며, 이는 정확한 질서 감지가 이루어졌음을 시사한다.
• 모든 δₕ ∈ [0, 0.15]에 대해 각 H(e^{jωₖ}) 항의 질서는 정확히 1로 식별되었으며, 이는 숨겨진 상호연결 부분공간의 차수를 정확히 식별한 것을 확인한다.
• 수치 실험 결과, 이 방법은 국소 동역학의 진짜 차수와 숨겨진 상호연결 부분공간의 차수를 식별하는 데 적합하며, 이후의 매개변수 보정에 유용하다고 제안된다.
• 이 방법은 상호연결 신호가 측정되지 않는 경우에도 국소 및 전역 동역학을 성공적으로 분리하여, 확장 가능한 분산 시스템 식별의 가능성을 입증한다.