[論文レビュー] Noise-Contrastive Estimation for Multivariate Point Processes

Hongyuan Mei, Tom Wan+1 more|arXiv (Cornell University)|Nov 2, 2020

Morphological variations and asymmetry参考文献 27被引用数 9

ひとこと要約

本稿では、多変量点過程の効率的学習を実現するため、高価な最尤推定（MLE）に代わって、観測事象とノイズサンプル事象の間の確率的識別目的を用いたノイズ対比推定（NCE）手法を提案する。この手法は、合成および実世界のデータセットにおいて、関数評価回数を著しく削減し、ウォール・クロック時間も短縮しながら、MLEと同等の対数尤度を達成する。

ABSTRACT

The log-likelihood of a generative model often involves both positive and negative terms. For a temporal multivariate point process, the negative term sums over all the possible event types at each time and also integrates over all the possible times. As a result, maximum likelihood estimation is expensive. We show how to instead apply a version of noise-contrastive estimation---a general parameter estimation method with a less expensive stochastic objective. Our specific instantiation of this general idea works out in an interestingly non-trivial way and has provable guarantees for its optimality, consistency and efficiency. On several synthetic and real-world datasets, our method shows benefits: for the model to achieve the same level of log-likelihood on held-out data, our method needs considerably fewer function evaluations and less wall-clock time.

研究の動機と目的

• 多変量点過程における最尤推定（MLE）の高い計算コストを軽減すること。これは、すべての可能なイベント時刻とタイプの統合による高価な正規化定数に起因する。
• 従来、非正規化モデルや言語モデルで用いられてきたノイズ対比推定（NCE）を、理論的保証を伴う多変量点過程の文脈に拡張すること。
• MLEと比較して、学習時間と関数評価回数を削減しながらも、モデルの最適性、一貫性、効率性を維持する手法を開発すること。
• 合成および実世界のデータセットを用いた実験的検証により、収束が速く、計算コストが低減された性能を示すこと。

提案手法

• 観測事象系列とノイズプロセスから生成された系列の識別を学習するように、NCEを多変量点過程に適応する。
• MLEにおける扱いが困難な正規化定数を避けるために、観測事象の尤度とノイズサンプル事象の尤度を比較する確率的目的関数を定義する。
• モデルパラメータに依存しないが、効率的にサンプリング可能なノイズ分布 $ q $ を使用する。この手法は、$ q $ が事前学習されていなくても安定である。
• 2つの戦略を用いたNCEの変種を適用する：'常に再生成'（更新ごとに新しいノイズ）と'再生成しない'（ノイズサンプルを再利用）で、後者がより高い効率性を示す。
• 1イベントあたりのノイズサンプル数を制御するハイパーパrameter $ C $ を導入し、計算コストと学習信号の質のバランスを取る。
• 強化学習ネットワークを用いて強度関数 $ \ heta $ をモデル化し、アダム最適化法を用いてハイパーパrameterをバリデーションセット上で最適化する。

実験結果

リサーチクエスチョン

• RQ1 ノイズ対比推定は、多変量点過程に効果的に適用可能であり、計算コストを低減しながらモデル品質を維持できるか？
• RQ2 ノイズサンプリング戦略の選択（常に再生成 vs. 再生成しない）が収束速度および最終的性能に与える影響は？
• RQ3 未学習のノイズ分布 $ q $ を用いることで、一般化性能および学習安定性にどのような影響が生じるか？
• RQ4 ノイズサンプル数 $ M $ および計算コスト係数 $ C $ が、学習効率およびモデル性能に与える影響は？
• RQ5 MLEと比較して、NCEは、保持データにおける同等の対数尤度を達成するにあたり、強度関数の評価回数およびウォール・クロック時間をどの程度削減できるか？

主な発見

• 合成および実世界のデータセットにおいて、NCEはMLEと同等の対数尤度を達成するが、関数評価回数を著しく削減し、ウォール・クロック時間も短縮される。
• '再生成しない'戦略により、ノイズサンプリングのオーバーヘッドが低減され、特に $ M=1000 $ の場合、NCEはウォール・クロック時間あたりの対数尤度でMLEを上回る。
• 未学習のノイズ分布 $ q $ を用いることで、一部のデータセット（例：BitcoinOTC、CollegeMsg）では収束が遅く、分散が高くなるが、性能は依然として競争的である。
• $ C=1 $（ノイズサンプル1つあたりの強度関数評価回数を減らす）に設定すると、特にIPTVのような大規模語彙データセットでは顕著な高速化が得られ、最終的な一般化性能に悪影響を与えない。
• IPTVデータセットでは、$ C=1 $ のNCEが $ C=49 $ よりも顕著な高速化を達成しながら、同じ最終対数尤度を維持しており、性能損なわず効率性の向上が確認された。
• CollegeMsgおよびWikiTalkの学習曲線から、NCEにニューラル $ q $ を用いることで、MLEと同程度の収束が確認され、多様なソーシャルインタラクションデータセットにわたるロバスト性が裏付けられた。