[논문 리뷰] ctsmr - Continuous Time Stochastic Modeling in R

Rune Juhl, Jan Kloppenborg Møller외 1명|arXiv (Cornell University)|2016. 06. 01.

Neural Networks and Applications참고 문헌 1인용 수 26

한 줄 요약

ctsrm R 패키지는 확률적 미분 방정식(SDEs)와 칼만 필터링을 통한 최대우도추정을 사용하여 연속-이산시간 그레이박스 모델을 식별하고 추정하는 일반적인 프레임워크를 제공한다. 이는 비정규적으로 샘플링된 데이터를 가진 동적 시스템에 대해 민첩하고 물리적으로 해석 가능한 모델링을 가능하게 하며, 약리동역학 및 열역학 시스템을 포함한 시뮬레이션 예제에서 정확한 모수 복원을 보여준다.

ABSTRACT

ctsmr is an R package providing a general framework for identifying and estimating partially observed continuous-discrete time gray-box models. The estimation is based on maximum likelihood principles and Kalman filtering efficiently implemented in Fortran. This paper briefly demonstrates how to construct a Continuous Time Stochastic Model using multivariate time series data, and how to estimate the embedded parameters. The setup provides a unique framework for statistical modeling of physical phenomena, and the approach is often called grey box modeling. Finally three examples are provided to demonstrate the capabilities of ctsmr.

연구 동기 및 목표

• 부분 상태 관측이 가능한 물리 시스템에 대한 연속시간 스토케스틱 모델링을 위한 융통성 있고 일반적인 목적의 R 패키지 개발
• SDEs와 이산 시간 측정값을 조합한 그레이박스 프레임워크를 통해 물리적 지식을 통계 모델에 통합
• 최대우도추정 및 칼만 필터링 기법을 사용한 효율적인 모수 추정과 모델 검증 지원
• 비정규 간격의 시계열 데이터 및 비선형, 비 stationary 또는 시간에 따라 변화하는 시스템 지원
• AIC, BIC 및 프로파일 우도를 사용한 모형 식별, 신뢰구간 추정 및 모형 선택을 위한 도구 제공

제안 방법

• 시스템 역학을 위한 이토 스토케스틱 미분 방정식(SDEs)을 사용한 연속-이산 시간 상태공간 모델 수립
• 관측된 출력과 관측 불가 상태 간의 관계를 이산 시간 측정 방정식으로 기술하며, 가우시안 측정 노이즈를 포함
• 모수 추정을 위한 로그우도 함수 계산을 효율적으로 수행하기 위해 확장 칼만 필터(EKF) 활용
• 모수 추정을 위해 최대우도추정(MLE)을 적용하여 이동항, 분산항 및 측정 노이즈 항 등 미지의 모수 추정
• 초기 값과 범위를 설정한 모수 추정을 구현하고, 신뢰구간 계산을 위한 프로파일 우도 지원
• 다변량 설정에서의 계산 효율성과 확장성을 확보하기 위해 포트란 최적화된 칼만 필터링 구현

실험 결과

연구 질문

• RQ1 비정규적으로 간격이 떨어진 다변량 시계열 데이터로부터 연속시간 스토케스틱 모델을 어떻게 효율적으로 추정할 수 있는가?
• RQ2 모수와 과정 노이즈가 미지인 상황에서 물리 시스템 지식을 통계 모델에 얼마나 잘 통합할 수 있는가?
• RQ3 부분 상태 관측이 있는 비선형 SDE 기반 모델에서 최대우도추정 및 EKF를 통해 추정된 모수의 정확도는 어떠한가?
• RQ4 SDE 모수에 대해 월드 신뢰구간과 프로파일 우도 구간은 커버리지와 정확도 측면에서 어떻게 비교되는가?
• RQ5 ctsrm 프레임워크는 모수 추적과 불확실성 정량화를 통해 모형 결함을 효과적으로 식별하고 수정할 수 있는가?

주요 결과

• ctsrm 패키지는 진짜 값 $k_a = 0.025$, $k_e = 0.08$, $σ_1 = 2$를 가진 약리동역학 모델에서 각각 $0.0249$, $0.0795$, $1.711$의 추정치를 도출하였으며, 95% 신뢰구간이 진짜 값을 포함함을 확인하였다.
• 모수에 대한 프로파일 우도 곡선이 월드 근사값과 밀접하게 일치하여 표준오차의 신뢰성과 신뢰구간의 좋은 커버리지가 확인되었다.
• 모든 상태에 분산 항이 추가된 경우 월드 근사값이 프로파일 우도에서 크게 벗어나며, 모델 복잡도 증가 시 이차 근사의 한계를 드러내었다.
• 초기 상태 값은 정확하게 복원되었으며, $x_{10} = 34.492$ (진짜: 40), $x_{20} = 36.799$ (진짜: 35), $x_{30} = 10.624$ (진짜: 11)로 추정되었고, 이들의 신뢰구간은 진짜 값을 포함하였다.
• 포트란 최적화된 칼만 필터링을 활용한 병렬 처리 기반 추정으로 다변량 및 비선형 시스템에서 빠른 계산이 가능해져 효율성이 확보되었다.
• AIC, BIC 및 프로파일 우도와 같은 우도 기반 기준을 통해 모형 검증 및 식별이 가능하며, 강력한 통계적 추론을 지원한다.