[論文レビュー] Learning Koopman eigenfunctions of stochastic diffusions with optimal importance sampling and ISOKANN

Alexander Sikorski, Enric Ribera Borrell+1 more|arXiv (Cornell University)|Dec 30, 2022

Model Reduction and Neural Networks参考文献 14被引用数 1

ひとこと要約

本稿では、確率的拡散過程のKoopman固有関数を学習するため、最適な重要度サンプリングを組み込んだISOKANNを提案する。神経ネットワークを用いて不変部分空間を張るχ関数を近似する。最適制御による分散低減を統合することで、スケールの遅いダイナミクスおよびレアイベントの近似において、数個のオーダーも高い精度を達成し、収束性が保証されたアルゴリズムと適応的サンプリング戦略を備える。

ABSTRACT

For stochastic diffusion processes the dominant eigenfunctions of the corresponding Koopman operator contain important information about the slow-scale dynamics, that is, about the location and frequency of rare events. In this article, we reformulate the eigenproblem in terms of $χ$-functions in the ISOKANN framework and discuss how optimal control and importance sampling allows for zero variance sampling of these functions. We provide a new formulation of the ISOKANN algorithm allowing for a proof of convergence and incorporate the optimal control result to obtain an adaptive iterative algorithm alternating between importance sampling and $χ$-function approximation. We demonstrate the usage of our proposed method in experiments increasing the approximation accuracy by several orders of magnitude.

研究の動機と目的

• 確率的拡散過程におけるレアイベントのKoopman作用素固有関数を計算する際の「ニワトリとタマゴ」問題を解決すること。
• 最適な重要度サンプリングによる分散低減を活用し、Koopman作用素評価のためのサンプリング効率を向上させること。
• 適応的サンプリングと制御を統合したISOKANNに、収束性が保証されたアルゴリズムを構築し、グローバルおよびローカル探索の両方を改善すること。
• 不変部分空間からの再構成を経由して、神経ネットワークによるχ関数の近似を用いてKoopman固有関数を高精度に近似可能にする手法を開発すること。
• 高次元系における数値実験を通じて、本手法の有効性を示し、顕著な精度向上を達成すること。

提案手法

• ISOKANNフレームワーク内において、χ関数を用いてKoopman固有問題を再定式化し、神経ネットワークを用いてこれらの関数を表現する。
• Girsanov再重み付けを用いて最適な重要度サンプリングを適用し、Koopman作用素作用のゼロ分散サンプリングを達成する。
• 1次元ISOKANNを一般化し、次元に依存しない新しい定式化（式6）を導入し、高次元への拡張を可能にする。
• 中間結果を用いて、重要度サンプリングとχ関数近似を交互に繰り返す適応的反復アルゴリズムを構築する。
• グローバルカバレッジの向上と反応経路の探索促進を目的として、χストラティファイドサンプリングを導入する。
• 分散低減サンプリングを用いた確率的勾配降下法を採用し、χ関数を近似する神経ネットワークを学習する。

実験結果

リサーチクエスチョン

• RQ1 最適な重要度サンプリングをISOKANNに統合することで、Koopman作用素評価におけるサンプリング分散を低減できるか？
• RQ2 サンプリングと関数近似の間でフィードバックを行う、本手法の適応的反復アルゴリズムは、収束性と精度を向上させるか？
• RQ3 ISOKANNで学習されたχ関数を用いて、高精度なKoopman固有関数を再構成できるか？
• RQ4 本手法の次元に依存しない新しい定式化は収束性を示し、高次元系へ拡張可能か？
• RQ5 制御付きサンプリングは、制御なしサンプリングと比較して、損失の低減と固有関数近似の分散低減にどのように寄与するか？

主な発見

• 提案手法は、制御なしISOKANNと比較して、近似精度を数個のオーダーも向上させる。
• 制御付き実験では、50回のパワー反復後に損失が10⁻¹から10⁻³に低下し、初期段階からノイズ低減が著しく見られた。
• 制御付きケースにおける訓練損失は、ノイズレベルとよく一致しており、効果的な分散低減が確認された。
• χサンプリング位置におけるKoopman評価のモンテカルロ標準偏差は、制御付きサンプリング下で顕著に低減された。
• 制御付きケースにおける学習済みχ関数は、境界部においても期待される形状に近づいており、制御なしケースよりも優れている。
• アルゴリズムはχ関数に収束することが示され、1次元ISOKANNの変種に対して理論的証明（定理1）が与えられた。