[논문 리뷰] Maximum Likelihood Estimation for Stochastic Differential Equations Using Sequential Kriging-Based Optimization

Grant Schneider, Craigmile, Peter F.외 1명|arXiv (Cornell University)|2014. 08. 11.

Advanced Multi-Objective Optimization Algorithms참고 문헌 15인용 수 3

한 줄 요약

이 논문은 이탈성 전이 밀도가 없는 경우에 대한 최대우도추정(MLE)을 위해 순차적 크리징 기반 최적화(SKBO) 방법을 제안한다. 이 방법은 우도를 순차적 몬테카를로(SMC) 방법을 통해 추정하며, 로그우도를 가우시안 프로세스(GP)로 모델링하고 기대 개선도(EI) 기준을 사용해 유망한 매개변수 값을 순차적으로 선택함으로써, 기울기 정보나 격자 기반 검색 없이도 MLE를 효율적으로 찾는다. 이는 기존 방법들에 비해 뚜렷한 계산 성능 향상을 보여준다.

ABSTRACT

Stochastic Differential Equations (SDEs) are used as statistical models in many disciplines. However, intractable likelihood functions for SDEs make inference challenging, and we need to resort to simulation-based techniques to estimate and maximize the likelihood function. While sequential Monte Carlo methods have allowed for the accurate evaluation of likelihoods at fixed parameter values, there is still a question of how to find the maximum likelihood estimate. In this article we propose an efficient Gaussian-process-based method for exploring the parameter space using estimates of the likelihood from a sequential Monte Carlo sampler. Our method accounts for the inherent Monte Carlo variability of the estimated likelihood, and does not require knowledge of gradients. The procedure adds potential parameter values by maximizing the so-called expected improvement, leveraging the fact that the likelihood function is assumed to be smooth. Our simulations demonstrate that our method has significant computational and efficiency gains over existing grid- and gradient-based techniques. Our method is applied to modeling the closing stock price of three technology firms.

연구 동기 및 목표

• 이탈성 전이 밀도의 닫힌 형태가 없는 경우 SDE에서의 추정이 불가능한 우도를 최대화하는 데 도전하는 것.
• 격자 기반 또는 기울기 기반 최적화를 순차적이고 적응적인 표본 추출 전략으로 대체하여 MLE의 계산 부담을 줄이는 것.
• SMC로 추정된 우도에서 발생하는 몬테카를로 변동성을 효과적으로 모델링하고, 기울기 정보에 의존하지 않도록 하는 것.
• 복잡한 SDE 모델에서 MLE를 위한 강력하고 불확실성 정량화가 가능한 방법을 제공하는 것. 이는 베이지안 최적화 원리를 기반으로 한다.

제안 방법

• 매개변수 공간 전역에서의 부드러움과 불확실성을 반영하기 위해 로그우도 함수를 가우시안 프로세스(GP)로 모델링함.
• 기대 개선도(EI) 기준을 최대화하여 순차적 크리징을 통해 탐색과 이용의 균형을 이루는 새로운 매개변수 값을 반복적으로 선택함.
• 각 선택된 매개변수 값에서의 우도를 추정하기 위해 순차적 몬테카를로(SMC)를 활용함으로써 몬테카를로 변동성을 고려함.
• 각 새로운 우도 추정 이후 GP의 사후분포를 갱신하여 우도 근사치의 불확실성을 통합함.
• GP의 초모수를 학습하기 위해 베이지안 프레임워크를 적용하여 사전 지식 통합과 자연스러운 불확실성 정량화를 가능하게 함.
• 다중 코어 R 루틴을 활용해 병렬 처리를 구현하여, 특히 몬테카를로 및 중요도 샘플링 단계에서 계산 효율성을 향상시킴.

실험 결과

연구 질문

• RQ1 이탈성 우도가 있는 SDE에서 MLE를 효율적으로 찾을 수 있는 순차적이고 기울기 없는 최적화 방법은 가능한가?
• RQ2 SMC로 추정된 우도에서 발생하는 몬테카를로 변동성은 최적화 과정에서 효과적으로 모델링되고 고려될 수 있는가?
• RQ3 크리징 프레임워크에서 기대 개선도를 사용할 경우, 격자 기반 또는 기울기 기반 방법에 비해 계산 효율성과 수렴 속도 측면에서 뛰어난 성능을 보일 수 있는가?
• RQ4 제안된 SKBO 방법은 SDE 모델에서 MLE에 대해 얼마나 신뢰할 수 있는 불확실성 정량화를 제공하는가?

주요 결과

• SKBO 방법은 SDE에서의 MLE에 있어 격자 기반 및 기울기 기반 최적화 기법에 비해 뚜렷한 계산 성능 향상을 달성함.
• 기대 개선도를 통한 전역 탐색을 통해 국소 최대값을 피하고 매개변수 공간을 적응적으로 샘플링함으로써 MLE를 성공적으로 탐색함.
• 초기 가정에서 모델의 잘못된 특정화가 있더라도, 단순한 GP 설정으로도 뛰어난 성능을 보이며, 이는 모델에 대한 강건성을 시사함.
• 우도 추정의 불확실성을 자연스럽게 통합하고, MLE의 불확실성 정량화를 위한 일관된 프레임워크를 제공함.
• 병렬 처리가 매우 용이하여, 다중 코어 또는 GPU 컴퓨팅 아키텍처를 활용해 추가적인 속도 향상을 기대할 수 있음.