[논문 리뷰] A Monte Carlo EM Algorithm for the Parameter Estimation of Aggregated Hawkes Processes

Leigh Shlomovich, Edward A. K. Cohen외 2명|arXiv (Cornell University)|2020. 01. 20.

Point processes and geometric inequalities참고 문헌 22인용 수 4

한 줄 요약

이 논문은 사건 발생 시점이 구간화되거나 반올림되어 시간 정밀도가 손실되는 집계된 Hawkes 과정에서의 파라미터 추정을 위한 몬테카를로 기대최대화(MC-EM) 알고리즘을 제안한다. 다양한 시뮬레이션 시나리오에서 기존 방법에 비해 훨씬 낮은 편향과 분산을 보이며 파라미터 추정 성능을 향상시켜 실제 데이터 집계 제약 조건 하에서 자기흥민(point process) 모델링에 뛰어난 성능을 보인다.

ABSTRACT

A key difficulty that arises from real event data is imprecision in the recording of event time-stamps. In many cases, retaining event times with a high precision is expensive due to the sheer volume of activity. Combined with practical limits on the accuracy of measurements, aggregated data is common. In order to use point processes to model such event data, tools for handling parameter estimation are essential. Here we consider parameter estimation of the Hawkes process, a type of self-exciting point process that has found application in the modeling of financial stock markets, earthquakes and social media cascades. We develop a novel optimization approach to parameter estimation of aggregated Hawkes processes using a Monte Carlo Expectation-Maximization (MC-EM) algorithm. Through a detailed simulation study, we demonstrate that existing methods are capable of producing severely biased and highly variable parameter estimates and that our novel MC-EM method significantly outperforms them in all studied circumstances. These results highlight the importance of correct handling of aggregated data.

연구 동기 및 목표

• 사건 발생 시점이 집계되거나 구간화될 경우 발생하는 편향과 변동성이 큰 파라미터 추정 문제를 해결하기 위해.
• 粗 granularity의 구간화된 사건 수에서 연속시간 Hawkes 과정의 진정한 파라미터를 추론하기 위한 강력한 통계적 프레임워크를 개발하기 위해.
• 기존 방법들이 데이터 집계를 제대로 고려하지 못해 체계적인 추정 오차를 유발하는 문제를 개선하기 위해.
• 금융 시장, 소셜 미디어, 지진학 등 고정밀 시점 데이터가 실용적이지 않은 실제 응용 분야에 적합한 확장성 있고 정확한 추론 방법을 제공하기 위해.
• 다양한 집계 수준과 파라미터 영역에서의 광범위한 시뮬레이션 연구를 통해 방법의 타당성을 검증하기 위해.

제안 방법

• 논문은 집계된 데이터에서 발생하는 계산이 불가능한 우도 함수를 다루기 위해 몬테카를로 기대최대화(MC-EM) 알고리즘을 수립한다.
• E단계에서는 각 구간 내에서 관측되지 않은 사건 발생 시점을 제안 분포 q(𝒯*|N, Θ^i)를 사용해 샘플링하며, 샘플링된 구성의 우도를 최대화한다.
• M단계에서는 진짜 밀도와 제안 밀도의 비율로 유도된 가중치를 부여한 완전 데이터 로그우도의 가중 평균을 최대화한다.
• 지수형 및 거듭제곱법 감쇠 커널을 모두 포함하며, 후자의 경우 정규화된 커널 형태를 신중히 다루어 정적성을 보장한다.
• 자기흥민 효과를 고려해 각 구간 내 사건 발생 시점의 우도를 모델링하기 위해 잘린 조건부 강도 함수를 사용한다.
• 분기 비율 γ < 1을 유지하는 제약 조건을 통해 과정의 정적성을 보존한다.

실험 결과

연구 질문

• RQ1 몬테카를로 기대최대화 알고리즘이 구간화된 사건 데이터에서 진정한 Hawkes 과정의 파라미터를 효과적으로 복원할 수 있는가?
• RQ2 데이터 집계 하에서 기존 추정 기법과 비교해 제안된 MC-EM 방법의 편향과 분산 측면에서의 성능은 어떠한가?
• RQ3 구간 폭과 집계 수준이 자기흥민 점과정에서의 파라미터 추정 정확도에 어떤 영향을 미치는가?
• RQ4 MC-EM 접근법은 지수형과 거듭제곱법 감쇠 형태의 다양한 흥분 커널에 대해 강건성을 유지하는가?
• RQ5 실제 응용에서 데이터 집계를 忽略할 경우 어떤 정도의 체계적 추정 오차가 발생하는가?

주요 결과

• 제안된 MC-EM 알고리즘은 모든 테스트된 집계 수준과 파라미터 설정에서 기존 방법에 비해 훨씬 낮은 편향과 분산을 보이며 파라미터 추정 성능을 향상시켰다.
• 기존 방법은 특히 굵은 구간화 상황에서 구간화된 데이터에 적용했을 때 심각한 편향과 높은 변동성을 보였다.
• MC-EM 접근법은 큰 구간 폭에서도 일관된 수렴과 낮은 추정 오차를 유지하여 데이터 집계에 대한 강건성을 입증했다.
• 거듭제곱법 커널의 경우, α < c 조건을 정확히 준수하여 유효한 과정 역학을 보장했다.
• 포prehensive 시뮬레이션 연구를 통해 배경 강도 ν, 흥분 진폭 α, 감쇠 비율 β를 고정밀도로 효과적으로 복원했다.
• 중요도 샘플링 기반의 가중 우도를 M단계에 도입함으로써 계산이 불가능한 완전 데이터 우도를 정확하게 근사할 수 있었다.