[논문 리뷰] Stability-Optimized High Order Methods and Stiffness Detection for Pathwise Stiff Stochastic Differential Equations

Christopher Rackauckas, Qing Nie|arXiv (Cornell University)|2018. 04. 12.

Numerical methods for differential equations참고 문헌 19인용 수 10

한 줄 요약

이 논문은 경로 기반 강성(stiffness)을 가진 확률미분방정식(SDEs)을 위한 안정성 최적화된 강성 순서 1.5의 적응형 방법을 제안한다. 이는 명시적 및 암시적 방법을 결합하고 강성 추정기(stiffness estimator)를 통해 동적으로 전환하는 방식이다. 이 방법은 일시적인 강성 동안 더 큰 안정적인 시간 간격을 허용함으로써, 강성 있는 생물학적 및 화학 모델에서 고정된 시간 간격 방법 대비 5배에서 6000배의 속도 향상을 달성한다. 새로운 적응형 IMEX 및 L-안정성 암시적 적분기법은 강성 있는 네트워크에서 명시적 방법보다 거의 8배 빠른 성능을 보였다.

ABSTRACT

Stochastic differential equations (SDE) often exhibit large random transitions. This property, which we denote as pathwise stiffness, causes transient bursts of stiffness which limit the allowed step size for common fixed time step explicit and drift-implicit integrators. We present four separate methods to efficiently handle this stiffness. First, we utilize a computational technique to derive stability-optimized adaptive methods of strong order 1.5 for SDEs. The resulting explicit methods are shown to exhibit substantially enlarged stability regions which allows for them to solve pathwise stiff biological models orders of magnitude more efficiently than previous methods like SRIW1 and Euler-Maruyama. Secondly, these integrators include a stiffness estimator which allows for automatically switching between implicit and explicit schemes based on the current stiffness. In addition, adaptive L-stable strong order 1.5 implicit integrators for SDEs and stochastic differential algebraic equations (SDAEs) in mass-matrix form with additive noise are derived and are demonstrated as more efficient than the explicit methods on stiff chemical reaction networks by nearly 8x. Lastly, we developed an adaptive implicit-explicit (IMEX) integration method based off of a common method for diffusion-reaction-convection PDEs and show numerically that it can achieve strong order 1.5. These methods are benchmarked on a range of problems varying from non-stiff to extreme pathwise stiff and demonstrate speedups between 5x-6000x while showing computationally infeasibility of fixed time step integrators on many of these test equations.

연구 동기 및 목표

• 표준 적분기법에서 시간 간격 크기가 제한되는 희귀하고 큰 랜덤 전이로 인해 발생하는 일시적 강성(transient stiffness)을 야기하는 경로 기반 강성 SDE 문제를 해결하기 위해.
• 강성 SDE의 효율적 통합을 위해 안정성 영역이 확대된 강성 순서 1.5의 명시적 방법을 개발하기 위해.
• 실시간 강성 감지 기반으로 명시적 및 암시적 방법 간의 동적 전환을 가능하게 하는 적응형 강성 추정기 설계를 위해.
• 가산 노이즈가 있는 SDE 및 SDAE에 대한 적응형 L-안정성 강성 순서 1.5 암시적 적분기법을 유도하여 강성 있는 화학 반응 네트워크에서의 효율성을 향상시키기 위해.
• PDE 방법에 영감을 받은 적응형 IMEX 적분기법을 구축하여, 확산-반응-대류 SDE에 대해 강성 순서 1.5를 달성하고 안정성과 효율성을 향상시키기 위해.

제안 방법

• SDE에 대한 안정성 최적화된 명시적 강성 순서 1.5 방법을 유도하기 위해 계산 기법을 활용하며, 이로 인해 안정성 영역이 크게 증가한다.
• 국소 강성 상태를 모니터링하는 강성 추정기를 통합하여, 필요에 따라 자동으로 명시적 방법에서 암시적 방법으로 전환하도록 한다.
• 가산 노이즈가 있는 질량행렬 형태의 SDE 및 SDAE에 대해 적응형 L-안정성 강성 순서 1.5 암시적 적분기법을 유도하여, 강성 영역에서의 강건성을 확보한다.
• PDE에 공통적으로 사용되는 방법에 기반한 적응형 IMEX 적분기법을 개발하여, 노이즈 성분은 명시적으로 처리하고, 드리프트 성분은 암시적으로 처리함으로써 안정성과 순서를 향상시킨다.
• 반복 이토 인테그랄을 위한 Wiktorsson 근사법을 활용하여, 확률적 해법에서 고차 강성 수렴성을 가능하게 한다.
• 행렬 역행렬 항등식과 재귀적 치환을 활용하여 적분기법 단계의 안정적인 갱신 공식을 도출함으로써, 큰 노이즈 폭발 상황에서도 수치적 안정성을 확보한다.

실험 결과

연구 질문

• RQ1 안정성 최적화된 고차 명시적 방법은 Euler-Maruyama 및 SRIW1와 같은 표준 명시적 방법에 비해 경로 기반 강성 SDE의 효율성을 크게 향상시킬 수 있는가?
• RQ2 동적 강성 추정기는 명시적 및 암시적 방법 간의 자동 전환을 가능하게 하여, 경로 기반 강성 SDE에서 효율성과 안정성을 균형 있게 유지할 수 있는가?
• RQ3 가산 노이즈가 있는 SDE 및 SDAE에 대한 적응형 L-안정성 암시적 적분기법은 강성 있는 화학 반응 네트워크에서 명시적 방법보다 뛰어난 성능을 보일 수 있는가?
• RQ4 적응형 IMEX 적분기법은 노이즈 및 드리프트 성분의 명시적 및 암시적 처리를 조합함으로써 경로 기반 강성 SDE에 대해 강성 순서 1.5를 달성할 수 있는가?
• RQ5 제안된 방법은 다양한 강성 및 비강성 SDE 문제에 대해 고정된 시간 간격 방법 대비 어떤 정도의 계산 성능 향상을 보이는가?

주요 결과

• 제안된 안정성 최적화 명시적 방법은 경로 기반 강성 SDE에서 고정된 시간 간격 명시적 방법(예: Euler-Maruyama)에 비해 최대 6000배의 속도 향상을 달성한다.
• 적응형 강성 추정기는 명시적 및 암시적 방법 간의 효율적 전환을 가능하게 하여, 수동 조작 없이 일시적 강성 사건 동안 안정적인 통합을 보장한다.
• 가산 노이즈가 있는 SDE 및 SDAE에 대한 적응형 L-안정성 암시적 적분기법은 강성 있는 화학 반응 네트워크에서 명시적 방법보다 거의 8배 높은 계산 효율성을 보였다.
• 적응형 IMEX 적분기법은 경로 기반 강성 SDE에 대해 강성 순서 1.5를 성공적으로 달성하였으며, 확산-반응-대류 유형 문제에서 수치적 안정성과 효율성을 입증하였다.
• 비강성에서 극한의 경로 기반 강성 문제에 걸쳐 벤치마킹한 결과, 일관된 5배에서 6000배의 속도 향상이 확인되었으며, 많은 시험 방정식에서 고정된 시간 간격 방법은 계산적으로 비가능해졌다.
• 희귀한 안정 상태 간 전환과 큰 노이즈 폭발을 포함한 다양한 SDE 유형에 걸쳐 뛰어난 성능을 보였다.