[논문 리뷰] Learning Koopman eigenfunctions of stochastic diffusions with optimal importance sampling and ISOKANN

Alexander Sikorski, Enric Ribera Borrell외 1명|arXiv (Cornell University)|2022. 12. 30.

Model Reduction and Neural Networks참고 문헌 14인용 수 1

한 줄 요약

이 논문은 확률적 밀도에서 코프만 고유함수를 학습하기 위해 최적의 중요도 샘플링을 통합한 ISOKANN을 제안한다. 신경망을 사용해 불변 부분공간을 생성하는 χ-함수를 근사한다. 최적 제어를 통한 분산 감소 기법을 통합함으로써, 느린 스케일 역학과 희귀 사건의 근사 정확도가 수개월 수준으로 향상되었으며, 수렴 가능한 알고리즘과 적응형 샘플링 전략을 제공한다.

ABSTRACT

For stochastic diffusion processes the dominant eigenfunctions of the corresponding Koopman operator contain important information about the slow-scale dynamics, that is, about the location and frequency of rare events. In this article, we reformulate the eigenproblem in terms of $χ$-functions in the ISOKANN framework and discuss how optimal control and importance sampling allows for zero variance sampling of these functions. We provide a new formulation of the ISOKANN algorithm allowing for a proof of convergence and incorporate the optimal control result to obtain an adaptive iterative algorithm alternating between importance sampling and $χ$-function approximation. We demonstrate the usage of our proposed method in experiments increasing the approximation accuracy by several orders of magnitude.

연구 동기 및 목표

• 희귀 사건의 확률적 밀도에서 코프만 연산자 고유함수를 계산할 때 발생하는 '닭과 계란' 문제를 해결하기 위해.
• 최적 중요도 샘플링을 통해 분산 감소를 실현함으로써 코프만 연산자 평가의 샘플링 효율성을 향상시키기 위해.
• 적응형 샘플링과 제어를 통합한 ISOKANN에 대한 수렴성 보장 알고리즘을 개발하여 전역 및 국소 탐색을 향상시키기 위해.
• 신경망을 통해 χ-함수를 근사하고 불변 부분공간에서의 재구성 기법을 활용해 코프만 고유함수를 정확하게 근사할 수 있도록 하기 위해.
• 고차원 시스템에서의 수치 실험을 통해 높은 정확도 향상을 입증하기 위해.

제안 방법

• ISOKANN 프레임워크 내에서 χ-함수의 관점으로 코프만 고유문제를 재정의하고, 신경망을 사용해 이러한 함수를 표현한다.
• 기르산오프 재가중 기법을 통한 최적 중요도 샘플링을 적용하여 코프만 연산자 작용의 0분산 샘플링을 달성한다.
• 기존 1차원 ISOKANN을 일반화한 차원에 종속되지 않는 새로운 ISOKANN 제안 (식 6), 고차원 확장 가능성을 제공한다.
• 중간 결과를 활용해 중요도 샘플링과 χ-함수 근사 사이를 번갈아 수행하는 적응형 반복 알고리즘을 개발한다.
• 전역 커버리지 향상과 반응 경로 탐색 용이성을 위해 χ-기반 샘플링 전략을 도입한다.
• 분산 감소 샘플링을 통한 확률적 경량 최적화를 사용해 χ-함수를 근사하는 신경망을 훈련시킨다.

실험 결과

연구 질문

• RQ1 최적 중요도 샘플링을 ISOKANN에 통합하여 코프만 연산자 평가 시 분산 감소를 달성할 수 있는가?
• RQ2 샘플링과 함수 근사 간 피드백을 포함한 제안된 적응형 반복 알고리즘이 수렴성과 정확도 향상에 기여하는가?
• RQ3 ISOKANN가 학습한 χ-함수를 활용해 높은 정밀도로 주요 코프만 고유함수를 재구성할 수 있는가?
• RQ4 제안된 차원에 종속되지 않는 ISOKANN의 수식 구조는 수렴성이 보장되며, 고차원 시스템으로의 확장이 가능한가?
• RQ5 제어 샘플링과 비제어 샘플링 간에 고유함수 근사의 손실 감소 및 오차 분산 측면에서 성능 차이가 나는가?

주요 결과

• 제안된 방법은 비제어 기반 ISOKANN 대비 근사 정확도를 수개월 수준으로 향상시켰다.
• 제어 실험에서 50번의 파wr 반복 후 손실이 10⁻¹에서 10⁻³으로 감소하였고, 초기 단계부터 노이즈 감소가 급격히 이루어졌다.
• 제어된 경우의 훈련 손실이 노이즈 수준과 밀접하게 일치하여 분산 감소 효과가 효과적으로 작용함을 시사한다.
• χ-샘플링 위치에서의 코프만 평가에 대한 몬테카를로 표준편차는 제어 샘플링 조건에서 크게 낮아졌다.
• 제어된 경우의 학습된 χ-함수는 경계 부근에서 비제어 경우보다 기대하는 형태와 더 잘 일치하였다.
• 알고리즘이 χ-함수로 수렴하는 것으로 나타났으며, 1D-ISOKANN 변형에 대해 이론적 수렴성 증명(정리 1)이 제시되었다.