[논문 리뷰] Koopman Kernel Regression

Petar Bevanda, Max Beier외 4명|arXiv (Cornell University)|2023. 05. 25.

Model Reduction and Neural Networks인용 수 5

한 줄 요약

이 논문은 데이터에서 선형 시간 불변(LTI) 동적 시스템을 학습하기 위해 보편적인 재생 커널 힐버트 공간(RKHS)을 활용하는 새로운 프레임워크인 쿠프만 커널 회귀(KKR)를 소개한다. 쿠프만 불변 다각형을 유일하게 포함하는 커널을 구성함으로써, 이전 방법보다 더 약한 가정 하에 수렴성 및 일반화 오차 경계와 같은 통계적 학습 보장을 제공하며, 유체 역학의 소용루르 거품 구조와 같은 복잡하고 고차원적인 시스템에서 뛰어난 예측 성능을 달성한다.

ABSTRACT

Many machine learning approaches for decision making, such as reinforcement learning, rely on simulators or predictive models to forecast the time-evolution of quantities of interest, e.g., the state of an agent or the reward of a policy. Forecasts of such complex phenomena are commonly described by highly nonlinear dynamical systems, making their use in optimization-based decision-making challenging. Koopman operator theory offers a beneficial paradigm for addressing this problem by characterizing forecasts via linear time-invariant (LTI) ODEs, turning multi-step forecasts into sparse matrix multiplication. Though there exists a variety of learning approaches, they usually lack crucial learning-theoretic guarantees, making the behavior of the obtained models with increasing data and dimensionality unclear. We address the aforementioned by deriving a universal Koopman-invariant reproducing kernel Hilbert space (RKHS) that solely spans transformations into LTI dynamical systems. The resulting Koopman Kernel Regression (KKR) framework enables the use of statistical learning tools from function approximation for novel convergence results and generalization error bounds under weaker assumptions than existing work. Our experiments demonstrate superior forecasting performance compared to Koopman operator and sequential data predictors in RKHS.

연구 동기 및 목표

• 기존 쿠프만 연산자 학습 방법에서 학습 이론적 보장이 부족한 문제, 특히 데이터 및 차원 수가 증가함에 따라 발생하는 문제를 해결하기 위해.
• 해당 RKHS가 쿠프만 불변 다각형만을 포함하는 보편적 커널을 개발하여, 다각형 상에서의 동적 행동을 보장하기 위해.
• 함수 근사 기반 RKHS에서의 LTI 예측자에 대한 통계적 학습 프레임워크를 체계화하여 수렴성 및 일반화 오차 경계를 제공하기 위해.
• 고차원 실세계 동적 시스템, 예를 들어 카르만 소용루르 거품 구조와 같은 시스템에서의 방법의 효과성을 입증하기 위해.
• 완전한 시뮬레이션보다 훨씬 빠르면서도 높은 예측 정확도를 유지하는 대체 표면 모델을 제공하기 위해.

제안 방법

• 쿠프만 역학에 대해 불변인 다각형만을 포함하는 재생 커널 힐버트 공간(RKHS)을 갖는 보편적 커널을 유도하여, 다각형 상에서의 선형 시간 불변(LTI) 행동 보장을 위해.
• 쿠프만 연산자의 스펙트럼 분해와 고유함수 성질을 활용하여 쿠프만 불변 RKHS를 구성하기 위해.
• 유도된 RKHS에서의 함수 회귀 문제로 쿠프만 커널 회귀(KKR)를 공식화하여 표준 통계적 학습 도구의 사용을 가능하게 하기 위해.
• RBF 기본 커널과 조정 가능한 길이 척도를 갖는 연산자 값 커널을 사용하여 데이터 기반 방식으로 쿠프만 연산자를 모델링하기 위해.
• 편향된 설정에서의 커널 수렴성을 검증하기 위해 몬테 카를로 적분을 적용하고, 초모수 튜닝을 위해 교차 검증을 사용하기 위해.
• 상승된 공간에서의 선형 예측자인 출력을 얻기 위해, 궤적 데이터를 사용하여 정규화된 경험 위험를 최소화함으로써 모델을 훈련시키기 위해.

실험 결과

연구 질문

• RQ1 선형 시간 불변(LTI) 역학에 대해, 그 RKHS가 쿠프만 불변 다각형에 들어가는 함수들만 포함하는 보편적 커널을 구성할 수 있는가?
• RQ2 기존 쿠프만 학습 방법보다 더 약한 가정 하에, 결과적으로 도출된 KKR 모델이 증명 가능한 수렴성 및 일반화 오차 경계를 달성하는가?
• RQ3 고차원 비선형 동적 시스템에서 KKR가 표준 쿠프만 연산자 학습 및 RKHS 내 순차적 예측자보다 우수한 성능을 내는가?
• RQ4 특히 복잡한 유체 역학 시나리오에서, 제한된 학습 데이터 조건에서도 KKR가 강력한 일반화 성능을 유지하는가?
• RQ5 예를 들어 라티스-볼츠만 방법 기반의 계산 비용이 큰 시뮬레이션에 대해 KKR가 효율적인 표면 모델로 기능할 수 있는가?

주요 결과

• KKR는 벤치마크 동적 시스템에서 쿠프만 연산자 및 RKHS 내 순차적 예측자보다 뛰어난 예측 성능을 달성한다.
• 이전 연구보다 더 약한 가정 하에 새로운 수렴성 및 일반화 오차 경계를 제공하여 이론적 보장을 제공한다.
• 훈련 궤적을 높은 정확도로 재구성하고, 테스트 데이터로의 일반화 성능도 뛰어나며, 카르만 소용루르 거품 구조 실험에서 단지 N=45개의 훈련 샘플로도 성능을 유지를 한다.
• 단일 GPU에서 KKR를 사용해 데이터셋을 재현하는 데 약 0.05초가 소요되며, 이는 전체 시뮬레이션 실행 평균 약 1초 대비 20배 빠른 속도 향상을 의미한다.
• 순수 허수 및 감쇠되는 고유값을 사용하여 KKR는 카르만 소용루르 거품 구조의 주기적 및 일시적 동적 행동을 성공적으로 포착한다.
• 몬테 카를로 적분을 통해 커널 수렴성이 검증되었으며, 여러 실행 및 시간 범위에서 안정적인 행동을 보였다.