[论文解读] Learning Koopman eigenfunctions of stochastic diffusions with optimal importance sampling and ISOKANN

Alexander Sikorski, Enric Ribera Borrell+1 more|arXiv (Cornell University)|Dec 30, 2022

Model Reduction and Neural Networks参考文献 14被引用 1

一句话总结

该论文提出ISOKANN方法，结合最优重要性采样，以学习随机扩散过程中Koopman特征函数，利用神经网络近似张成不变子空间的χ-函数。通过整合最优控制以降低采样方差，该方法在近似慢尺度动力学和罕见事件方面实现了数量级更高的精度，且具备可证明收敛的算法与自适应采样策略。

ABSTRACT

For stochastic diffusion processes the dominant eigenfunctions of the corresponding Koopman operator contain important information about the slow-scale dynamics, that is, about the location and frequency of rare events. In this article, we reformulate the eigenproblem in terms of $χ$-functions in the ISOKANN framework and discuss how optimal control and importance sampling allows for zero variance sampling of these functions. We provide a new formulation of the ISOKANN algorithm allowing for a proof of convergence and incorporate the optimal control result to obtain an adaptive iterative algorithm alternating between importance sampling and $χ$-function approximation. We demonstrate the usage of our proposed method in experiments increasing the approximation accuracy by several orders of magnitude.

研究动机与目标

• 为解决在随机扩散过程中计算Koopman算子特征函数时存在的鸡生蛋、蛋生鸡问题，特别是针对罕见事件。
• 通过最优重要性采样降低方差，提升Koopman算子评估的采样效率。
• 开发一种可证明收敛的算法，将自适应采样与控制机制整合进ISOKANN，以实现更优的全局与局部探索。
• 通过χ-函数及其在不变子空间中的重构，利用神经网络实现Koopman特征函数的高精度近似。
• 通过高维系统的数值实验，展示该方法在显著提升精度方面的有效性。

提出的方法

• 在ISOKANN框架内，将Koopman特征问题重新表述为χ-函数的形式，并利用神经网络表示这些函数。
• 通过Girsanov重加权方法应用最优重要性采样，实现Koopman算子作用的零方差采样。
• 提出一种新的与维度无关的ISOKANN公式（公式6），推广了一维ISOKANN，支持向高维系统的扩展。
• 设计一种自适应迭代算法，通过交替执行重要性采样与χ-函数近似，利用中间结果进行优化。
• 采用χ-分层采样以提升全局覆盖度，促进反应路径的探索。
• 使用带方差减少采样的随机梯度下降训练神经网络，以近似χ-函数。

实验结果

研究问题

• RQ1 能否将最优重要性采样整合进ISOKANN，以降低Koopman算子评估中的采样方差？
• RQ2 所提出的结合采样与函数近似反馈的自适应迭代算法是否能提升收敛性与精度？
• RQ3 ISOKANN学习得到的χ-函数能否以高保真度重构主导的Koopman特征函数？
• RQ4 新的与维度无关的ISOKANN公式是否具有收敛性？能否推广至高维系统？
• RQ5 在特征函数近似中，与无控制采样相比，受控采样在损失减少与误差方差降低方面表现如何？

主要发现

• 与无控制的ISOKANN相比，所提方法在近似精度上提升了多个数量级。
• 受控实验显示，经过50次幂迭代后，损失从10⁻¹降至10⁻³，且从初始阶段即实现快速噪声抑制。
• 受控情况下，训练损失紧密跟随噪声水平，表明方差减少效果显著。
• 在χ-采样位置处，受控采样下Koopman评估的蒙特卡洛标准差显著降低。
• 与无控制情况相比，受控情况下学习到的χ-函数在边界区域更符合预期形状。
• 该算法展现出收敛至χ-函数的特性，且为一维ISOKANN变体提供了理论证明（定理1）。