[논문 리뷰] Passivity and Immersion based-modified gradient estimator: A control perspective in parameter estimation

Syed Shadab Nayyer, G. Revati외 2명|arXiv (Cornell University)|2022. 11. 19.

Model Reduction and Neural Networks인용 수 13

한 줄 요약

이 논문은 비선형 시스템에서 매개변수 추정을 향상시키기 위해 가상의 제어 법칙을 경사도 역동성에 도입함으로써 비가역성과 침습 기반 수정된 경사도 추정기(MGE)를 제안한다. 이로 인해 점점 줄어드는 매개변수 오차 수렴이 보장된다. 메모리 회귀자 확장(MRE)을 통합함으로써 일시적인 응답이 빨라지고 수렴 성능이 향상되며, 특히 지속적인 자극 조건이 어려운 상황에서도 유리하다. 이는 P&I 접근법과 수동 출력 설계를 통해 이론적으로 뒷받.Foundation된 바탕이다.

ABSTRACT

In this paper, a constructive and systematic strategy with more apparent degrees of freedom to achieve the accurate estimation of unknown parameters via a control perspective is proposed. By adding a virtual control in the final equation of the gradient dynamics, the Gradient Estimator (GE) and Memory Regressor and Extension (MRE) approaches are extended. The solution of the virtual control law is identified by the P&I approach. The P&I approach is based on the choice of an appropriate implicit manifold and the generation of a suitable passive output and a related storage function. This facilitates the virtual control law being obtained in a way that the parametric error converges asymptotically to zero. Because the above ideas connect with the P&I approach and GE, the developed methodology is labeled the passivity and immersion-based modified gradient estimator (MGE). The proposed P&I-based modified gradient estimator is extended via the MRE approach. This modification provides improved transient response and fast convergence. Based on certain PE and non-PE examples, a comparative analysis is carried out to show the efficacy of the proposed approaches.

연구 동기 및 목표

• 지속적인 자극(PE) 조건을 만족하기 어려운 비선형 시스템에서의 매개변수 추정 과제를 해결하기 위해.
• 폐쇄형 시스템에서 회귀자 벡터 행동과 매개변수 수렴 간의 순환적 의존성을 극복하기 위해.
• 제어 이론적 접근을 통해 매개변수 추정의 일시적 응답과 수렴 속도를 향상시키기 위해.
• 침습 및 불변성(I&I) 프레임워크에 기반한 가상의 제어 법칙을 통해 경사도 추정기(GE)와 메모리 회귀자 확장(MRE) 방법을 확장하기 위해.
• 비-PE 및 PE 조건 하에서 강건한 매개변수 추정을 위한 더 많은 자유도를 가진 체계적이고 수동 기반의 방법을 제공하기 위해.

제안 방법

• 매개변수 오차 역동성에 가상의 제어 법칙을 도입하여 경사도 추정기를 안정화하고 점진적 수렴을 보장한다.
• 침입 및 불변성(I&I) 접근법을 적용하여 수동 출력과 저장 함수를 설계함으로써 에너지 기반 분석을 통한 안정성을 확보한다.
• 편미분 기하학적 메트릭을 사용하여 접선 공간을 수평 및 수직 부분공간으로 분해하고, 메트릭 변환 하에서도 수직성을 유지한다.
• 수동 출력 $ y = \lambda + q(x) $ 과 저장 함수 $ \mathbb{S} $ 를 사용하며, 이는 후보 리아프노프 함수로 기능한다.
• 일시적 성능 향상과 수렴 속도 향상을 위해 메모리 회귀자 확장(MRE)을 활용하여 방법을 확장한다.
• 수동성과 새로운 입력 $ v $ 에 대해 보장하기 위해 제어 법칙 $ u = -\frac{\partial q(x)}{\partial x}f(x,\lambda) + v $ 를 유도한다. 이는 강건한 오차 역동성을 가능하게 한다.

실험 결과

연구 질문

• RQ1 가상의 제어 법칙이 경사도 역동성에 효과적으로 통합되어 매개변수 추정의 수렴성과 일시적 응답을 향상시킬 수 있는가?
• RQ2 침입 및 불변성(I&I) 프레임워크를 어떻게 활용하여 엄격한 지속적 자극 조건에 의존하지 않고도 점진적 매개변수 오차 수렴을 보장할 수 있는가?
• RQ3 메모리 회귀자 확장(MRE)이 비-PE 상황에서 수정된 경사도 추정기 성능을 어느 정도 향상시키는가?
• RQ4 수동 출력과 저장 함수는 에너지 형태 조절을 통해 매개변수 추정 과정을 안정화하는 데 어떤 역할을 하는가?
• RQ5 수렴 속도와 온라인 검증 가능성 측면에서 기존 방법들인 동시 학습 및 복합 학습과 비교해 볼 때, 제안된 방법은 어떠한가?

주요 결과

• 제안된 P&I 기반 MGE는 I&I 프레임워크에서 유도된 가상의 제어 법칙을 통합함으로써 매개변수 오차가 점차적으로 0으로 수렴함을 보장한다.
• 메모리 회귀자 확장(MRE)과의 통합을 통해 일시적 응답이 향상되고 수렴 속도가 가속화된다.
• 저장 함수 $ \mathbb{S} $, 정의된 바에 따르면 $ \frac{1}{2} \| \lambda + q(x) \|^2 $, 타당한 리아프노프 함수로 기능하며, 불변 다각형의 흡인성을 입증한다.
• 수동 출력 $ y = \lambda + q(x) $ 는 새로운 입력 $ v $ 와의 수동성을 보장하며, 수정된 역동성 하에서도 강건한 안정성을 가능하게 한다.
• 이론적 분석을 통해 일반적인 편미분 기하학적 메트릭 하에서도 접선 공간 분해의 수직성이 유지됨을 확인하였으며, 이는 구조적 안정성을 뒷받침한다.
• PE 및 비-PE 예제에 대한 비교 분석을 통해 표준 GE 및 MRE 대비 수렴 속도와 강건성 측면에서 뛰어난 성능을 보였다.