[論文レビュー] Koopman Theory and Linear Approximation Spaces

Andrew J. Kurdila, Parag Bobade|arXiv (Cornell University)|Nov 27, 2018

Model Reduction and Neural Networks参考文献 55被引用数 7

ひとこと要約

この論文は、線形近似空間、ウェーブレット、固有関数を用いて、データ駆動型力学系におけるコープマン作用素およびペロン＝フロベニウス作用素の近似の収束速度を確立する。誤差を近似誤差と標本誤差に分解し、独立同分布の標本条件下で、$(\log m / m)^{2r/(2r+1)}$ の順序の半最適収束速度を導出する。その際の境界は関数の滑らかさと近似空間の構造に依存する。

ABSTRACT

Koopman theory studies dynamical systems in terms of operator theoretic properties of the Perron-Frobenius operator $\mathcal{P}$ and Koopman operator $\mathcal{U}$ respectively. In this paper, we derive the rates of convergence of approximations of $\mathcal{P}$ or $\mathcal{U}$ that are generated by finite dimensional bases like wavelets, multiwavelets, and eigenfunctions, as well as approaches that use samples of the input and output of the system in conjunction with these bases. We introduce a general class of priors that describe the information available for constructing such approximations and facilitate the error estimates in many applications of interest. These priors are defined in terms of the action of $\mathcal{P}$ or $\mathcal{U}$ on certain linear approximation spaces. The rates of convergence for the estimates of these operators are investigated under a variety of situations that are motivated from associated assumptions in practical applications. When the estimates of these operators are generated by samples, it is shown that the error in approximation of the Perron-Frobenius or Koopman operators can be decomposed into two parts, the approximation error and the sampling error. This result emphasizes that sample-based estimates of Perron-Frobenius and Koopman operators are subject to the well-known trade-off between the bias and variance that contribute to the error, a balance that also features in nonlinear regression and statistical learning theory.

研究の動機と目的

• 非線形力学系におけるコープマン作用素およびペロン＝フロベニウス作用素の近似の厳密な収束速度を確立すること。
• データ駆動型作用素推定における近似誤差と標本誤差のトレードオフを特定すること。
• スペクトル的および線形近似空間に基づく一般化された事前分布の枠組みを構築し、多様な応用分野における誤差推定を可能にすること。
• ウェーブレット、マルチウェーブレット、固有関数に基づく基底の性能を、これらの作用素の近似において分析すること。
• 標本化されたシステム軌道を用いたEDMD型アルゴリズムの境界を導出し、推定におけるバイアスと分散の両方を考慮すること。

提案手法

• Banach空間 $X$ 上の関数空間 $A^{r,q}(X)$ を用いて定義される、コープマン作用素またはペロン＝フロベニウス作用素の作用に基づく一般クラスの事前分布を用いる。
• 関数的設定を定義するために、ヒルバート空間 $U = L^2_\mu(\Omega)$ と再生核ヒルバート空間（RKHS）を適用する。
• 近似誤差（関数の滑らかさと基底選択に依存）と標本誤差（標本分布に依存）に誤差を分解する。
• 多項式を再現するウェーブレットおよびマルチウェーブレットを用い、結果を有限要素法およびスプラインに基づくガラーキン法と結びつける。
• 経験的回帰と正確なデータ駆動型手法を用いたEDMD型アルゴリズムを分析し、$L^2$-ノルムとsup-ノルムを用いて誤差を境界づける。
• 集中不等式を用いて、悪影響を及ぼす標本集合の確率を境界づけ、標本サイズが増加するにつれてその測度が指数的に減少することを示す。

実験結果

リサーチクエスチョン

• RQ1 ウェーブレットや固有関数などの有限次元基底を用いた場合、コープマン作用素およびペロン＝フロベニウス作用素の近似の収束速度は何か？
• RQ2 データ駆動型推定における近似誤差と標本誤差のトレードオフはどのように働くか？
• RQ3 独立同分布の標本条件下で、EDMD型アルゴリズムの達成可能な最良の収束速度は何か？また、関数の滑らかさにどのように依存するか？
• RQ4 近似空間の構造（例：ウェーブレット、固有関数）をどのように活用して、タイトな誤差境界を導出できるか？
• RQ5 標本ベースの作用素推定の誤差は、解釈可能な成分に分解可能か？また、それらは標本サイズと基底次元にどのようにスケーリングされるか？

主な発見

• 独立同分布の標本条件下で、コープマン作用素のEDMD近似の誤差は、$\mathbb{E}_{\nu^m}\left(\|\mathcal{U}f - \mathcal{U}^{edmd}_{j,z}f\|_U\right) \lesssim \left(\frac{\log m}{m}\right)^{2r/(2r+1)}$ で有界であり、$\log m$ 要素を除いて半最適である。
• 関数 $f$ がスペクトル的近似空間 $A^{r,2}(U)$ に属する場合、近似誤差は $O(2^{-rj/2})$ で有界であり、滑らかさ $r$ と解像度 $j$ に依存する。
• 標本誤差項は、高確率で $\epsilon$ 未満に抑えられ、悪影響を及ぼす標本集合の測度は標本サイズ $m$ が増加するにつれて指数的に減少する。
• 関数が $\text{Lip}^*(r, L^\infty(\Omega))$ に属する場合、射影誤差 $\|(I - \Pi_j)f\|_{L^\infty(\Omega)} \approx 2^{-rj}$ が成り立ち、滑らかさと近似精度を結びつける。
• 入力データが強く混合するマルコフ連鎖によって生成される場合、有効標本サイズ $e(m)$ が $m$ の代わりに用いられ、$\mathbb{E}_{\mathbb{P}^m_{\{z\}}}\left(\|\mathcal{U}f - \mathcal{U}^{edmd}_{j,z}f\|_U\right) \lesssim \left(\frac{\log e(m)}{e(m)}\right)^{2r/(2r+1)}$ が得られる。
• 解析により、多項式再現性を持つウェーブレットおよびマルチウェーブレット基底が、ガラーキンスキームにおける有限要素法およびスプライン法と同等の近似速度を達成することが確認された。