[논문 리뷰] Noise-Contrastive Estimation for Multivariate Point Processes

Hongyuan Mei, Tom Wan외 1명|arXiv (Cornell University)|2020. 11. 02.

Morphological variations and asymmetry참고 문헌 27인용 수 9

한 줄 요약

이 논문은 다변량 포인트 프로세스를 효율적으로 학습하기 위해 최대우도추정(MLE)의 고비용을 대체하여 관측된 사건과 노이즈 샘플링된 사건 간의 확률적 분류 목표로 노이즈 대비 추정(NCE) 방법을 제안한다. 이 방법은 합성 및 실세계 데이터셋에서 MLE에 비해 훨씬 적은 함수 평가 횟수와 단축된 월클럭 시간으로 유사한 로그우도를 달성한다.

ABSTRACT

The log-likelihood of a generative model often involves both positive and negative terms. For a temporal multivariate point process, the negative term sums over all the possible event types at each time and also integrates over all the possible times. As a result, maximum likelihood estimation is expensive. We show how to instead apply a version of noise-contrastive estimation---a general parameter estimation method with a less expensive stochastic objective. Our specific instantiation of this general idea works out in an interestingly non-trivial way and has provable guarantees for its optimality, consistency and efficiency. On several synthetic and real-world datasets, our method shows benefits: for the model to achieve the same level of log-likelihood on held-out data, our method needs considerably fewer function evaluations and less wall-clock time.

연구 동기 및 목표

• 다변량 포인트 프로세스에서 최대우도추정(MLE)의 높은 계산 비용을 해결하기 위해, 모든 가능한 사건 시간과 유형에 대한 통합으로 인해 발생하는 고비용 정규화 상수를 피하기 위함.
• 이전에 비정규화 모델과 언어 모델에 사용된 바 있는 노이즈 대비 추정(NCE)을 이론적 보장과 함께 다변량 포인트 프로세스의 맥락으로 확장하기 위함.
• MLE에 비해 학습 시간과 함수 평가 횟수를 줄이면서도 모델의 최적성, 일致성 및 효율성을 유지하는 방법을 개발하기 위함.
• 합성 및 실세계 데이터셋에서의 경험적 검증을 통해 더 빠른 수렴과 경쟁 가능한 성능을 보이며 계산 비용을 감소시킴으로써 성능을 입증하기 위함.

제안 방법

• 관측된 사건 시계열과 노이즈 프로세스로부터 생성된 시계열을 구분하도록 모델을 훈련시킴으로써 NCE를 다변량 포인트 프로세스에 적응시킴.
• MLE에서 계산이 불가능한 정규화 상수를 피하기 위해 관측된 사건의 우도와 노이즈 샘플링된 사건의 우도를 비교하는 확률적 목표를 정의함.
• 모델 파라미터와 독립적이며 효율적으로 샘플링 가능한 노이즈 분포 $ q $ 를 사용함; $ q $ 가 훈련되지 않은 상태여도 이 방법은 안정성이 높음.
• 두 전략인 '항상 재샘플링'(각 업데이트마다 새로운 노이즈)과 '절대 재샘플링하지 않음'(노이즈 샘플 재사용)을 적용한 NCE의 변형을 적용함; 후자가 더 높은 효율성을 보임.
• 각 사건당 노이즈 샘플 수를 제어하는 하이퍼파라미터 $ C $ 를 도입함으로써 계산 비용과 학습 신호 품질 간의 균형을 맞춤.
• 신경망을 사용해 강도 함수 $ \ heta $ 를 모델링하고, 검증 세트에서 하이퍼파라미터를 튜닝하여 Adam 옵timizer로 학습함.

실험 결과

연구 질문

• RQ1 노이즈 대비 추정이 다변량 포인트 프로세스에 효과적으로 적용되어 학습 비용을 줄이고도 모델 품질을 유지할 수 있는가?
• RQ2 노이즈 샘플링 전략 선택(항상 재샘플링 대비 절대 재샘플링하지 않음)이 수렴 속도와 최종 성능에 어떤 영향을 미치는가?
• RQ3 훈련되지 않은 노이즈 분포 $ q $ 를 사용할 경우 일반화 능력과 학습 안정성에 어떤 영향을 미치는가?
• RQ4 노이즈 샘플 수 $ M $ 과 계산 비용 인자 $ C $ 는 학습 효율성과 모델 성능에 어떤 영향을 미치는가?
• RQ5 MLE에 비해 NCE가 관측 데이터에서 유사한 로그우도를 달성하면서도 강도 함수 평가 횟수와 월클럭 시간을 얼마나 줄일 수 있는가?

주요 결과

• 합성 및 실세계 데이터셋에서 NCE 방법은 MLE와 유사한 로그우도를 달성하지만, 훨씬 적은 함수 평가 횟수와 단축된 월클럭 시간을 기록함.
• '절대 재샘플링하지 않음' 전략은 노이즈 샘플링 오버헤드가 감소하여, 특히 $ M=1000 $ 일 때 NCE가 월클럭 시간 단위 로그우도 측면에서 MLE를 앞서는 성능을 보임.
• 훈련되지 않은 노이즈 분포 $ q $ 를 사용할 경우 일부 데이터셋(예: BitcoinOTC, CollegeMsg)에서 수렴 속도가 느리고 분산이 커지지만, 성능는 여전히 경쟁 가능함.
• $ C=1 $ (노이즈 샘플당 강도 함수 평가 횟수를 줄임)로 설정할 경우 IPTV와 같이 어휘 집합이 큰 데이터셋에서 특히 빠른 속도 향상을 보이며, 최종 일반화 능력은 떨어지지 않음.
• IPTV 데이터셋에서 $ C=1 $ 인 NCE는 $ C=49 $ 에 비해 상당한 속도 향상을 보였고, 동일한 최종 로그우도를 유지함으로써 성능 손실 없이 효율성 향상을 입증함.
• CollegeMsg 및 WikiTalk의 학습 곡선을 통해 신경망 기반 $ q $ 를 사용한 NCE는 MLE와 유사한 수렴 특성을 보이며, 다양한 사회적 상호작용 데이터셋에 대한 강건성을 확인함.