[논문 리뷰] Bayesian Online Prediction of Change Points

Diego Agudelo-España, Sebastián Gómez-González외 3명|arXiv (Cornell University)|2019. 02. 12.

Statistical Methods and Inference인용 수 6

한 줄 요약

이 논문은 전체 세그먼트 지속 시간을 관측 모델에 통합하여 베이지안 온라인 변화점 탐지(BOCPD)를 확장하여 다음 변화점까지의 잔여 시간을 예측한다. 이 방법은 시간적 스케일링이 있는 시계열 자료에 대해 온라인으로 불확실성 인식이 가능한 세그먼트 탐지를 가능하게 하며, EEG 및 ECG 데이터에서 표준 BOCPD에 비해 향상된 예측 정확도를 입증하였다.

ABSTRACT

Online detection of instantaneous changes in the generative process of a data sequence generally focuses on retrospective inference of such change points without considering their future occurrences. We extend the Bayesian Online Change Point Detection algorithm to also infer the number of time steps until the next change point (i.e., the residual time). This enables to handle observation models which depend on the total segment duration, which is useful to model data sequences with temporal scaling. The resulting inference algorithm for segment detection can be deployed in an online fashion, and we illustrate applications to synthetic and to two medical real-world data sets.

연구 동기 및 목표

• 기존의 온라인 변화점 탐지 방법이 향후 변화점을 예측하지 못하는 한계를 해결하기 위해.
• 실시간에서 세그먼트 경계와 잔여 시간을 동시에 추론할 수 있도록 하여, 사전 대응이 필요한 애플리케이션을 지원하기 위해.
• 시간 스케일링된 자료를 모델링하기 위해 런 레이스와 총 세그먼트 지속 시간 양측에 의존하는 새로운 관측 모델 클래스를 개발하기 위해.
• 기존 BOCPD 확장 기법과 호환 가능한 모듈러하고 온라인 추론 및 학습 프레임워크를 제공하기 위해.

제안 방법

• 런 레이스와 세그먼트 지속 시간에서 유도된 잔여 시간 분포를 도입하여 BOCPD를 확장함으로써 다음 변화점의 예측이 가능하도록 한다.
• 시간적 스케일링이 가능한 기능적 형태를 허용하기 위해 총 세그먼트 지속 시간 dt에 명시적으로 의존하는 새로운 관측 모델 클래스(UPMs)를 도입한다.
• 변화점 발생을 모델링하기 위해 고장 함수 파arameterization을 사용하며, 지속 시간 모델 p(dt|zt)는 고장 함수에서 유도된다.
• 모델 가중치에 대해 공액 사전분포를 사용하고, ECG 파형과 같은 시간 스케일링 신호를 모델링하기 위해 기저 함수 표현(예: 신경망)을 활용한다.
• 레이블이 부여된 데이터를 사용하여 최대우도추정법(MLE)을 적용하여 초모수 학습을 수행한다.
• 런 레이스와 세그먼트 지속 시간의 결합 분포에 대한 순차적 베이지안 업데이트를 통해 온라인 추론을 수행한다.

실험 결과

연구 질문

• RQ1 온라인 변화점 탐지가 과거 변화점만 탐지하는 것이 아니라, 다음 변화점까지의 시간을 예측할 수 있도록 확장될 수 있는가?
• RQ2 ECG나 수면 주기와 같은 시간 스케일링된 자료를 위해 관측 모델을 총 세그먼트 지속 시간에 의존하도록 일반화할 수 있는가?
• RQ3 관측 모델에 세그먼트 지속 시간을 포함했을 때 잔여 시간 예측 정확도와 불확실성 정량화에 어떤 영향을 미치는가?
• RQ4 실제 의료 시계열 자료에서 제안된 방법이 표준 BOCPD에 비해 예측 성능 측면에서 어떻게 비교되는가?

주요 결과

• 모델은 세그먼트가 진행됨에 따라 불확실성이 감소하는 정확한 잔여 시간 예측을 달성하였으며, 합성 및 실재 데이터 모두에서 참값과 일치하는 경향을 보였다.
• ECG 자료에서 모델은 심장 사이클 단계 분류에 대해 F1-스코어 0.89(S0)와 0.91(S1)를 기록하여 효과적인 동시 세그먼테이션과 분류를 실현하였다.
• ECG 자료에서 관측 모델이 총 세그먼트 지속 시간에 의존할 경우, EEG 자료에서의 지속 시간 무관 모델 대비 잔여 시간 추론이 훨씬 더 확신 있고 정밀한 것으로 나타났다.
• 모든 평가된 에포크 동안 잔여 시간에 대한 사후분포는 참값의 2표준편차 이내에 유지되었으며, 이는 신뢰할 수 있는 불확실성 정량화를 의미한다.
• 제안된 모델는 수학적으로 숨은 반정적 마르코프 모델(HSMM)과 동일하지만, 온라인 추론을 지원하여 실시간 구동이 가능하다.
• 모델 초모수는 레이블이 부여된 데이터를 사용하여 최대우도추정법을 통해 온라인 학습이 가능하며, 실용적 구현을 지원한다.