[논문 리뷰] Invariance Proximity: Closed-Form Error Bounds for Finite-Dimensional Koopman-Based Models

Masih Haseli, Jörge E. Cortes|arXiv (Cornell University)|2023. 11. 21.

Model Reduction and Neural Networks인용 수 4

한 줄 요약

이 논문은 유한 차원 쿠퍼만 기반 모델에서 최악의 상대 예측 오차를 측정하는 데 쓰이는 불변성 근접도(invariance proximity)에 대한 폐쇄형 해를 제안한다. 이는 부분공간과 그 쿠퍼만 이미지 사이의 조르당 주축각(Jordan principal angles)을 활용하여 도출된다. 이 방법은 유클리드 공간으로의 등장사상(isomorphism)을 통해 효율적인 계산을 가능하게 하며, 표준 수치 해법을 활용할 수 있고, 모델 정확도 및 안전성 인증을 위한 정확한 오차 한계를 제공한다.

ABSTRACT

A popular way to approximate the Koopman operator's action on a finite-dimensional subspace of functions is via orthogonal projections. The quality of the projected model directly depends on the selected subspace, specifically on how close it is to being invariant under the Koopman operator. The notion of invariance proximity provides a tight upper bound on the worst-case relative prediction error of the finite-dimensional model. However, its direct calculation is computationally challenging. This paper leverages the geometric structure behind the definition of invariance proximity to provide a closed-form expression in terms of Jordan principal angles on general inner product spaces. Unveiling this connection allows us to exploit specific isomorphisms to circumvent the computational challenges associated with spaces of functions and enables the use of existing efficient numerical routines to compute invariance proximity.

연구 동기 및 목표

• 유한 차원 쿠퍼만 기반 모델에서 최악의 상대 예측 오차를 측정하는 데 핵심적인 역할을 하는 불변성 근접도를 계산할 수 있는 계산적으로 실현 가능한 방법을 제공하는 것.
• 무한 차원 함수 공간에 속한 비가산 많은 함수들에 대한 Supremum을 직접 계산하는 데 있어 계산적으로 비가능한 불변성 근접도를 극복하는 것.
• 시스템 분석 및 제어 응용 분야에서 쿠퍼만 기반 모델의 정확한 오차 정량화 및 인증을 가능하게 하는 것.
• 일반 내적 공간에서 부분공간의 불변성, 쿠퍼만 연산자 역학, 주축각 사이의 기하학적 프레임워크를 구축하는 것.

제안 방법

• 논문은 불변성 근접도를 쿠퍼만 연산자에 의해 부분공간의 이미지와의 가장 큰 조르당 주축각의 사인으로 설정한다.
• 부분공간의 직교 분해를 통해 조르당 주축각을 이용하여 오차 측정의 기하학적 구조를 드러낸다.
• 무한 차원 함수 공간 문제를 유한 차원 복소 유클리드 공간으로 매핑하는 등장사상을 활용하여 효율적인 계산을 가능하게 한다.
• 기존의 수치선형대수 도구(예: MATLAB의 subspace 명령어)를 활용하여 최대 주축각을 계산한다.
• 이 형식은 특정 함수 클래스나 데이터 기반 설정에 국한되지 않고 임의의 내적 공간에 일반적으로 적용 가능하다.
• 데이터 샘플링이나 통계적 가정에 의존하지 않으며, 함수 수준에서 분석적 오차 한계를 제공한다.

실험 결과

연구 질문

• RQ1 일반 내적 공간에서 쿠퍼만 기반 모델의 최악의 상대 예측 오차를 측정하는 데 쓰이는 불변성 근접도는 어떻게 효율적으로 계산할 수 있는가?
• RQ2 부분공간과 그 쿠퍼만 이미지 사이의 기하학적 관계 중 어떤 것이 유한 차원 쿠퍼만 근사의 가장 날카운 오차 한계를 결정하는가?
• RQ3 주축각을 활용하여 불변성 근접도의 계산을 재구성할 수 있는가? 이를 통해 표준 수치 알고리즘을 활용할 수 있는가?
• RQ4 가장 큰 주축각이 쿠퍼만 모델 예측의 최악의 상대 오차를 얼마나 정확히 특징짓는가?
• RQ5 제안된 폐쇄형 표현은 데이터 기반 오차 한계와 비교해 정확도와 계산 효율성 측면에서 어느 정도 우월한가?

주요 결과

• 불변성 근접도는 부분공간과 그 쿠퍼만 이미지 사이의 가장 큰 조르당 주축각의 사인과 정확히 일치하며, 이는 날카운 폐쇄형 오차 한계를 제공한다.
• 쿠퍼만 불변 부분공간 S₁에 대해서는 불변성 근접도가 약 0.0(기계 정밀도 수준)이며, 이는 정확한 예측 능력이 있음을 확인한다.
• S₂에 대한 불변성 근접도는 0.048이며, 이는 최악의 상대 함수 예측 오차가 4.8%임을 의미한다.
• S₃에 대해서는 불변성 근접도가 0.823이며, 이는 최악의 상대 오차가 82.3%임을 의미하여, 이 부분공간에 기반한 모델은 매우 신뢰할 수 없다.
• S₂ ⊂ S₃임에도 불구하고 더 큰 부분공간 S₃는 예측 정확도가 현저히 떨어지며, 이는 더 큰 부분공간이 반드시 더 나은 성능을 보이는 것은 아님을 보여준다.
• 100개의 궤적을 통한 수치적 검증 결과, S₂에 기반한 모델은 S₃에 기반한 모델보다 중앙 오차와 분산이 낮았으며, 이는 불변성 근접도가 모델 품질 측정 지표로서의 예측 능력을 잘 반영하고 있음을 확인한다.