[논문 리뷰] Interval-censored Hawkes processes

Marian-Andrei Rizoiu, Alexander Soen외 5명|arXiv (Cornell University)|2021. 04. 16.

Point processes and geometric inequalities참고 문헌 60인용 수 5

한 줄 요약

이 논문은 평균 행동 포아송 과정(MBPP)을 도입하며, 정확한 사건 시간이 아닌 시간 간격 내 사건 수만 관측되는 간격 캐시드 데이터에 대해 하크스 과정을 피팅할 수 있도록 하는 새로운 점과정(point process)을 제안한다. 이는 간격 캐시드 포아송 로그우도(IC-LL)를 사용하여 이루어지며, MBPP와 하크스 과정 간의 직접적인 매개변수 대응 관계를 수립하고, 실제 데이터에서 인기 예측 성능에서 이전 최고 성능 기록인 HIP 모델을 능가하며, IC-LL를 브레그만 산란(Bregman divergences)과 연결하여 HIP를 특수한 경우로 보여준다.

ABSTRACT

Interval-censored data solely records the aggregated counts of events during specific time intervals - such as the number of patients admitted to the hospital or the volume of vehicles passing traffic loop detectors - and not the exact occurrence time of the events. It is currently not understood how to fit the Hawkes point processes to this kind of data. Its typical loss function (the point process log-likelihood) cannot be computed without exact event times. Furthermore, it does not have the independent increments property to use the Poisson likelihood. This work builds a novel point process, a set of tools, and approximations for fitting Hawkes processes within interval-censored data scenarios. First, we define the Mean Behavior Poisson process (MBPP), a novel Poisson process with a direct parameter correspondence to the popular self-exciting Hawkes process. We fit MBPP in the interval-censored setting using an interval-censored Poisson log-likelihood (IC-LL). We use the parameter equivalence to uncover the parameters of the associated Hawkes process. Second, we introduce two novel exogenous functions to distinguish the exogenous from the endogenous events. We propose the multi-impulse exogenous function - for when the exogenous events are observed as event time - and the latent homogeneous Poisson process exogenous function - for when the exogenous events are presented as interval-censored volumes. Third, we provide several approximation methods to estimate the intensity and compensator function of MBPP when no analytical solution exists. Fourth and finally, we connect the interval-censored loss of MBPP to a broader class of Bregman divergence-based functions. Using the connection, we show that the popularity estimation algorithm Hawkes Intensity Process (HIP) is a particular case of the MBPP. We verify our models through empirical testing on synthetic data and real-world data.

연구 동기 및 목표

• 정확한 사건 시간이 아닌 시간 간격 내 사건 수만 관측되는 상황에서 하크스 과정을 피팅하는 데 도전하는 것.
• 집계된 간격 데이터에서 하크스 과정의 매개변수를 추정하기 위한 원칙적인 방법을 개발하여, 독립 증분의 부재와 계산이 불가능한 우도 계산 문제를 해결하는 것.
• MBPP와 자기흥폭(self-exciting) 하크스 과정 간의 매개변수 대응 관계를 수립하여 간격 캐시드 데이터에서의 추론을 가능하게 하는 것.
• 두 가지 새로운 외생 함수를 도입: 시간 관측 외생 사건을 위한 다중 인파르(multi-impulse) 함수, 간격 캐시드 외생 볼륨을 위한 잠재 동질 포아송( latent homogeneous Poisson) 함수.
• 기존 하크스 강도 과정(HIP)이 제안된 MBPP 프레임워크의 특수한 경우임을 보여주는 것.

제안 방법

• 하크스 과정의 동일한 매개변수 하에서 기대 강도와 일치하는 강도 함수를 갖는 비동질 포아송 과정으로서 평균 행동 포아송 과정(MBPP)을 정의한다.
• 정확한 사건 시간이 필요 없이 간격 내 사건 수로부터 계산 가능한 간격 캐시드 포아송 로그우도(IC-LL)를 사용하여 MBPP를 피팅한다.
• 관측된 외생 사건을 시간 기반의 점 사건으로 모델링하기 위해 다중 인파르 외생 함수를 도입하고, 간격 볼륨으로만 관측되는 외생 사건을 위한 잠재 동질 포아송 과정 외생 함수를 제안한다.
• 특히 복잡한 커널에 대해 분석적 해가 존재하지 않을 경우 MBPP의 강도 함수와 보상 함수(compensator)에 대한 근사 방법을 제안한다.
• IC-LL 손실을 더 넓은 브레그만 산란 기반 손실의 범주와 연결하여, HIP가 이 프레임워크의 특정 사례임을 보여준다.
• 합성 및 실제 세계 실험을 통해 방법을 검증하고, 인기 예측 과제에서 HIP와의 성능 비교를 수행한다.

실험 결과

연구 질문

• RQ1 정확한 사건 시간이 없이도 하크스 과정의 매개변수 구조를 유지하면서 간격 캐시드 우도 추정에 적합한 점과정을 구성할 수 있는가?
• RQ2 오직 사건의 간격 수에만 기반할 경우 하크스 과정의 자기흥폭 역학을 어떻게 복원할 수 있는가?
• RQ3 MBPP의 간격 캐시드 손실과 HIP에서 사용하는 손실 함수와 같은 기존 손실 함수 간의 관계는 무엇인가?
• RQ4 외생 사건이 정확한 시간으로 관측되거나 간격 볼륨으로만 관측될 경우, 이를 어떻게 모델링할 수 있는가?
• RQ5 MBPP 프레임워크는 인기 예측 과제에서 최고 성능 기록인 HIP 모델에 비해 어느 정도 향상되는가?

주요 결과

• MBPP 프레임워크는 정확한 사건 시간이 필요 없이도 간격 캐시드 데이터에 하크스 과정을 피팅할 수 있도록 간격 캐시드 포아송 로그우도(IC-LL)를 사용하여 성공적으로 실현되었다.
• MBPP는 자기흥폭 하크스 과정과 직접적인 매개변수 대응 관계를 수립하여 간격 캐시드 수를 통해 하크스 매개변수를 복원할 수 있다.
• 제안된 다중 인파르 및 잠재 동질 포아송 외생 함수는 시간 기반 및 수량 기반 설정에서 외생 사건을 유연하게 모델링할 수 있게 해준다.
• MBPP의 간격 캐시드 손실은 브레그만 산란 기반 손실의 특수한 경우임이 입증되었으며, HIP 모델은 이 프레임워크의 특정 사례로 공식적으로 규명되었다.
• 실제 데이터 세트에 대한 실험적 평가에서 MBPP는 인기 예측에서 HIP 모델을 능가하며, 더 높은 예측 정확도를 보였다.
• 분석적 해가 존재하지 않는 상황에서도 MBPP 강도 및 보상 함수에 대한 근사 방법이 효과적이었으며, 실용적 구현을 가능하게 하였다.