[논문 리뷰] Importance sampling for a robust and efficient multilevel Monte Carlo estimator for stochastic reaction networks

Chiheb Ben Hammouda, Nadhir Ben Rached외 1명|arXiv (Cornell University)|2019. 11. 20.

Gene Regulatory Network Analysis참고 문헌 37인용 수 15

한 줄 요약

이 논문은 확률적 반응 네트워크(SRNs)의 다수준 몬테카를로(MLMC) 추정기의 강건성과 효율성을 향상시키기 위해 경로에 따라 달라지는 중요도 샘플링(IS) 기법을 제안한다. MLMC에서 치명적인 결합으로 인해 발생하는 높은 첨도를 줄임으로써, 강한 수렴 속도를 β = 1에서 β = 1 + δ로 향상시켜 최적의 O(TOL⁻²) 복잡도를 달성하면서도 낮은 계산 오버헤드를 유지한다.

ABSTRACT

TThe multilevel Monte Carlo (MLMC) method for continuous time Markov chains, first introduced by Anderson and Higham (2012), is a highly efficient simulation technique that can be used to estimate various statistical quantities for stochastic reaction networks (SRNs), and in particular for stochastic biological systems. Unfortunately, the robustness and performance of the multilevel method can be deteriorated due to the phenomenon of high kurtosis, observed at the deep levels of MLMC, which leads to inaccurate estimates for the sample variance. In this work, we address cases where the high-kurtosis phenomenon is due to \ extit{catastrophic coupling} (characteristic of pure jump processes where coupled consecutive paths are identical in most of the simulations, while differences only appear in a very small proportion), and introduce a pathwise dependent importance sampling technique that improves the robustness and efficiency of the multilevel method. Our analysis, along with the conductednumerical experiments, demonstrates that our proposed method significantly reduces the kurtosis of the deep levels of MLMC, and also improves the strong convergence rate from $\\beta=1$ for the standard case (without importance sampling), to $\\beta=1+\\delta$, where $0<\\delta<1$ is a user-selected parameter in our importance sampling algorithm. Due to the complexity theorem of MLMC and given a pre-selected tolerance, $TOL$, this results in an improvement of the complexity from $\\Ordo{TOL^{-2} \\log(TOL)^2}$ in the standard case to $\\Ordo{TOL^{-2}}$.

연구 동기 및 목표

• 순수 점프 과정에서 치명적인 결합으로 인해 발생하는 MLMC 추정기의 높은 첨도 현상 해결, 특히 연속 시간 마르코프 체인의 맥락에서.
• 표준 결합 기법이 분산 추정에 정확하지 못한 영향을 미치는 확률적 반응 네트워크(SRNs)에서 MLMC 방법의 강건성과 성능 향상.
• 사용자 조절 가능한 IS 매개변수를 통해 MLMC의 강한 수렴 속도를 β = 1에서 β = 1 + δ로 향상시켜 계산 복잡도 향상.
• 정확한 시뮬레이션 기법에 의존하지 않고도 최적의 MLMC 복잡도 O(TOL⁻²) 달성.
• 경로당 몇 번만 적용 가능한 경량 IS 알고리즘 개발으로 효율성을 유지하면서 깊은 MLMC 수준에서 첨도를 크게 감소.

제안 방법

• SRNs의 MLMC에서 치명적인 결합을 완화하기 위해 경로에 따라 달라지는 중요도 샘플링(IS) 전략 도입.
• 경로 시뮬레이션 중에 IS를 선택적으로 적용하여 연속된 MLMC 수준 간의 차이가 비영이 되는 확률을 높임.
• 사용자 정의 매개변수 δ ∈ (0,1)를 사용해 IS 분포의 편향과 분산 간 상호 균형을 조절하고, 더 높은 강한 수렴 속도 달성 가능.
• 타우-리프(TL) 방법의 전이 비율을 수정하여, 미세 수준과 거친 수준의 경로 간 차이가 비영인 경로를 유리하게 만들고, 동일한 종료 값 비율 감소.
• IS 조정된 TL 기법을 표준 MLMC 프레임워크에 통합하여 다수준 구조 유지하면서도 분산 추정 향상.
• 경로당 몇 번만 IS를 적용해 전체 경로 재가중 처리의 오버헤드를 피함으로써 최소한의 계산 비용 확보.

실험 결과

연구 질문

• RQ1 SRNs의 MLMC 추정기에서 치명적인 결합으로 인한 높은 첨도 현상은 어떻게 완화할 수 있는가?
• RQ2 경로에 따라 달라지는 IS 기법이 유의미한 계산 오버헤드 없이 MLMC의 강한 수렴 속도를 β = 1을 초월해 향상시킬 수 있는가?
• RQ3 제안된 IS 방법은 연속된 MLMC 수준 간 차이가 0인 경로의 비율을 어느 정도 감소시키는가?
• RQ4 IS 향상된 MLMC는 정확한 시뮬레이션 기법을 사용하지 않고도 최적의 O(TOL⁻²) 복잡도를 달성하는가?
• RQ5 이 IS 접근법은 강성 동역학을 가진 시스템이나 MLMC에서의 기타 결합 문제를 다룰 수 있는가?

주요 결과

• 제안된 IS 방법은 깊은 MLMC 수준의 첨도를 크게 감소시키며, 특히 gℓ − gℓ−1 = 0인 경로의 비율을 고수준에서 거의 100%에서 약 80–90%로 감소시킴.
• 강한 수렴 속도가 표준 MLMC의 β = 1에서 사용자 선택 매개변수 δ ∈ (0,1)를 가진 β = 1 + δ로 향상되어 수렴 행동 개선.
• MLMC 추정기의 계산 복잡도가 O(TOL⁻² log²(TOL))에서 최적의 O(TOL⁻²)로 감소하여 MLMC의 최고 수준 복잡도에 부합.
• 추가 비용이 거의 없이 달성되었으며, IS는 경로당 몇 번만 적용되어 다른 방법에 비해 높은 메모리 및 계산 부담을 피함.
• 세 가지 테스트 케이스(예제 5.1–5.3)에 대한 수치 실험 결과, IS 방법이 정확성을 유지하면서 첨도를 극적으로 감소시키고 수렴도 향상됨.
• 정확한 기법을 사용하지 않아도 되는 점을 고려할 때, 하이브리드 추정기 및 비편향 MLMC와 같은 기존 방법보다 더 작은 상수 요소를 가지며 성능가장 뛰어남.