[논문 리뷰] Universal Approximation Theorems for Dynamical Systems with Infinite-Time Horizon Guarantees

Abel Sagodi, Il Memming Park|arXiv (Cornell University)|2026. 02. 09.

Neural Networks and Reservoir Computing인용 수 0

한 줄 요약

이 논문은 Neural ODE가 무한 시간 구간에서 특정 다안정(multistable) 동역학 시스템을 균일하게 근사할 수 있음을 보이고, Morse–Smale 시스템의 hyperbolic fixed points에 대한 ε-δ 보장, exact period matching을 통한 hyperbolic limit cycles, 그리고 discretization을 통한 normally hyperbolic continuous attractors에 대한 ε-δ 보장을 확립하며, 더불어 시간 일반화 경계도 제시한다.

ABSTRACT

Universal approximation theorems establish the expressive capacity of neural network architectures. For dynamical systems, existing results are limited to finite time horizons or systems with a globally stable equilibrium, leaving multistability and limit cycles unaddressed. We prove that Neural ODEs achieve $\varepsilon$-$δ$ closeness -- trajectories within error $\varepsilon$ except for initial conditions of measure $< δ$ -- over the \emph{infinite} time horizon $[0,\infty)$ for three target classes: (1) Morse-Smale systems (a structurally stable class) with hyperbolic fixed points, (2) Morse-Smale systems with hyperbolic limit cycles via exact period matching, and (3) systems with normally hyperbolic continuous attractors via discretization. We further establish a temporal generalization bound: $\varepsilon$-$δ$ closeness implies $L^p$ error $\leq \varepsilon^p + δ\cdot D^p$ for all $t \geq 0$, bridging topological guarantees to training metrics. These results provide the first universal approximation framework for multistable infinite-horizon dynamics.

연구 동기 및 목표

• Neural ODE에 의한 다안정(multistable) 동역학 시스템의 무한 시간 보편 근사 증명.
• fading memory를 넘어 Morse–Smale 및 normally hyperbolic attractors까지 보편 근사를 확장한다.
• 위상 보장을 학습 지표와 연결하는 명시적 ε-δ 프레임워크를 제공한다.

제안 방법

• 무한 수평궤적 근사를 위한 ε-δ 근접성 정의.
• 구조적 안정성(Palis–Smale)을 이용해 separatrix 근처의 basin 오류를 한정한다.
• localized vector field scaling을 통한 exact period matching으로 limit cycles의 P-type 오류를 수정한다.
• 이산적 attractor로 normally hyperbolic continuous attractors를 근사하기 위한 타일링 전략을 적용한다.
• ε-δ 근접성과 시간 평균 Lp 오차를 연결하는 시간 일반화 경계를 도출한다.

실험 결과

연구 질문

• RQ1 Hyperbolic fixed points를 가진 Morse–Smale 시스템에 대해 무한 구간 [0, ∞)에서 Target dynamics에 대해 Neural ODE가 ε-δ 근접성을 달성할 수 있는가?
• RQ2 exact period matching을 통해 Morse–Smale 시스템의 hyperbolic limit cycles에 대해 ε-δ 근접성을 달성할 수 있는가?
• RQ3 연속 attractors를 디스크리트 타일링으로 무한 시간 동안 근사하면서 D-type 오류를 제어할 수 있는가?
• RQ4 무한한 수평에서 ε-δ 궤적 근접성과 시간 평균 Lp 오차의 관계는 어떤가?

주요 결과

• Neural ODE는 무한 구간에서 hyperbolic fixed points를 갖는 Morse–Smale 타깃에 대해 ε-δ 근접할 수 있다.
• Localized scaling을 통한 exact period matching은 limit cycles의 P-type 오류를 제거하여 무한 시간 근사를 가능하게 한다.
• 타일링 접근을 통해 normally hyperbolic continuous attractors를 이산 타일로 근사하되 D-type 오류를 한정적으로 제어할 수 있다.
• 시간 일반화 경계는 시간 평균 Lp 오차가 ε^p + δ·D^p로 한정됨을 보여 상위에 있는 위상 보장을 학습 지표와 연결한다.
• 결과는 다안정 무한 구동 역학에 대한 최초의 보편 근사 프레임워크를 구성한다.