[논문 리뷰] Error analysis of kernel EDMD for prediction and control in the Koopman framework

Friedrich Philipp, Manuel Schaller외 3명|arXiv (Cornell University)|2023. 12. 16.

Model Reduction and Neural Networks인용 수 4

한 줄 요약

이 논문은 코프만 프레임워크 내에서 데이터 기반 예측 및 제어를 위한 커널 확장 동적 모드 분해(kEDMD)에 대한 엄밀한 오차 분석을 제시한다. 독립 동일분포(i.i.d.) 샘플링을 통해 사용자가 정의한 분포에서 데이터를 수집할 경우, 비ergodic성 또는 불변성 가정 없이 예측 오차에 대한 확률적 경계를 수립하며, 제어-아핀 시스템에 대해서는 일반화된 코프만 생성자 정의를 통해 분석을 확장한다.

ABSTRACT

Extended Dynamic Mode Decomposition (EDMD) is a popular data-driven method to approximate the Koopman operator for deterministic and stochastic (control) systems. This operator is linear and encompasses full information on the (expected stochastic) dynamics. In this paper, we analyze a kernel-based EDMD algorithm, known as kEDMD, where the dictionary consists of the canonical kernel features at the data points. The latter are acquired by i.i.d. samples from a user-defined and application-driven distribution on a compact set. We prove bounds on the prediction error of the kEDMD estimator when sampling from this (not necessarily ergodic) distribution. The error analysis is further extended to control-affine systems, where the considered invariance of the Reproducing Kernel Hilbert Space is significantly less restrictive in comparison to invariance assumptions on an a-priori chosen dictionary.

연구 동기 및 목표

• 사용자가 정의한, 비ergodic일 수 있는 분포에서 샘플링하는 경우, 커널 기반 EDMD(kEDMD)에 대한 엄밀한 오차 분석을 제공하는 것.
• 기존 kEDMD 오차 분석에서 흔히 사용되는 사전 조건인 사전 함수 공간 또는 측도에 대한 제약 있는 불변성 가정을 제거하는 것.
• 함수 공간의 불변성이 요구되지 않는 일반화된 코프만 생성자 정의를 도입하여 오차 경계를 제어-아핀 시스템으로 확장하는 것.
• Hoeffding의 부등식을 활용하여 힐버트-슈미트 노름에서 (교차-)공분산 연산자의 확률적 오차 경계를 수립하는 것.
• 장시간 예측 및 제어 성능을 갖춘 덱핑 진동자(Duffing oscillator)에 대한 수치 실험을 통해 이론적 결과를 검증하는 것.

제안 방법

• 사용자가 정의한 분포에서 컴act한 집합 위에서 독립 동일분포(i.i.d.) 샘플링을 수행하여 kEDMD에 필요한 데이터를 수집함으로써, 비ergodic성 가정을 피하는 방법을 사용한다.
• 샘플된 데이터 포인트에서의 커널 특징 맵을 기반으로 사전(dictionary)을 구성하여, 이를 재생핵 힐버트 공간(RKHS)에 매핑한다.
• 독립적인 랜덤 변수에 대한 Hoeffding의 부등식을 활용하여, 힐버트-슈미트 노름에서 (교차-)공분산 연산자의 확률적 오차 경계를 유도한다.
• 함수 공간이 불변이 아닐 경우에도 분석이 가능하도록 코프만 생성자를 일반화하여, 코프만 연산자가 함수 공간을 자신 안으로 매핑하지 않는 시스템에 대해서도 분석이 가능하도록 한다.
• 제어-아핀 시스템의 경우, 다양한 제어 입력 하에서의 코프만 연산자들 사이를 보간하는 이변형(Bilinear) 코프만 모델을 사용한다.
• 원래 상태 변수에 대한 커널 특징의 최소제곱 피팅을 통해 올리프트된 공간에서 상태를 재구성한다.

Figure 1. Ornstein-Uhlenbeck process: Error bound from Prop. 4.1 (circles) versus $(1-\delta)$ -percentile of the actual estimation error estimated from fifty independent trials (squares), for three different bandwidths $\sigma$ indicated by different colors and linestyles.

실험 결과

연구 질문

• RQ1 사용자가 정의한 비ergodic 분포에서 i.i.d. 샘플링을 통해 데이터를 수집할 경우, kEDMD의 예측 오차 경계는 무엇인가?
• RQ2 코프만 연산자가 함수 공간을 자신 안으로 매핑하지 않는 경우, 즉 불변성이 없을 경우, kEDMD의 오차 분석은 어떻게 확장될 수 있는가?
• RQ3 실제 응용에서 정규화 및 커널 폭의 영향은 kEDMD 모델의 예측 정확도에 어떤 영향을 미치는가?
• RQ4 이변형 코프만 모델은 덱핑 진동자와 같은 비선형 시스템에서 장시간 예측 및 제어 성능을 얼마나 잘 달성하는가?
• RQ5 이론적 오차 경계는 벤치마크 비선형 제어 시스템에서 수치적으로 검증될 수 있는가?

주요 결과

• 논문은 i.i.d. 샘플링 하에서 힐버트-슈미트 노름에서 kEDMD 추정기의 확률적 오차 경계를 유도하였으며, 이는 상태 공간의 부분집합이 동역학에 의해 불변이 아닐 경우에도 유효하다.
• 오차 경계는 표본 크기, 커널의 연속성, 커널의 스펙트럼 성질에 따라 달라지며, 정규화 매개변수에 명시적인 의존성을 가진다.
• 일반화된 코프만 생성자 정의를 통해 불변이 아닌 설정에서도 오차 분석이 가능해지며, 이는 사전 함수 공간 또는 측도에 대한 이전의 제약 조건을 크게 완화한다.
• 덱핑 진동자에 대한 수치 결과는 정규화가 증가함에 따라 예측 오차가 감소함을 보여주며, 최적 성능는 γ = 10⁻⁵에서 달성된다.
• 이변형 코프만 모델은 12.5 시간 동안의 장시간 예측에서 뛰어난 성능을 보이며, 평균 상대 오차가 낮고, 시간에 따라 변하는 제어 입력 조건에서도 안정적인 동역학을 유지한다.
• 최소제곱 피팅을 통한 커널 특징의 상태 재구성은 원래 시스템 상태를 올리프트된 공간에서 신뢰성 있게 예측할 수 있도록 한다.

Figure 2. Left: initial training data $x_{k}$ (blue) and corresponding time shifted data $y_{k}$ (red) for fixed input $\bar{u}=0$ . The black square indicates the initial domain $\mathcal{X}=[-1.5,1.5]^{2}$ . Right: Evaluation of the state variable $x_{k}$ on the data $y_{k}^{\bar{u}}$ , approximat