[論文レビュー] The decoupled extended Kalman filter for dynamic exponential-family factorization models

Carlos Alberto Gomez-Uribe, Brian Karrer|arXiv (Cornell University)|Jun 26, 2018

Tensor decomposition and applications参考文献 35被引用数 3

ひとこと要約

本稿では、動的指数型族要因分解モデルに特化したデカップリング拡張カルマンフィルタ（DEKF）を提案する。この手法により、不確実性推定を伴うオンラインで適応可能な学習が可能となり、実世界および合成データにおいて、標準的手法よりもスケーラビリティと適応性に優れる。パラメータの漂移をモデル化し、ブロック対角の共分散近似を用いることで、各観測ごとに関連するパラメータのみを効率的に更新でき、探索／活用戦略の実装を可能にする。

ABSTRACT

Motivated by the needs of online large-scale recommender systems, we specialize the decoupled extended Kalman filter (DEKF) to factorization models, including factorization machines, matrix and tensor factorization, and illustrate the effectiveness of the approach through numerical experiments on synthetic and on real-world data. Online learning of model parameters through the DEKF makes factorization models more broadly useful by (i) allowing for more flexible observations through the entire exponential family, (ii) modeling parameter drift, and (iii) producing parameter uncertainty estimates that can enable explore/exploit and other applications. We use a different parameter dynamics than the standard DEKF, allowing parameter drift while encouraging reasonable values. We also present an alternate derivation of the extended Kalman filter and DEKF that highlights the role of the Fisher information matrix in the EKF.

研究の動機と目的

• 大規模で時間的に変化するレコメンデーションシステムにおいて、静的でバッチ処理型の要因分解モデルの限界を克服すること。
• 動的ユーザー好みや非定常データに対応するため、不確実性の定量的評価を伴うオンラインパラメータ学習を可能にすること。
• 行列／テンソル要因分解や要因分解マシンを含む、指数型族要因分解モデルへDEKFを拡張すること。
• 事後分布からの補正された不確実性推定を用いて、探索／活用戦略を支援すること。
• ブロック対角の共分散近似を活用し、各新しい観測に関与するエンティティのみを更新することで、計算効率を向上させること。

提案手法

• 指数型族要因分解モデルに特化したDEKFを採用し、バイナリ、カウント、連続的出力など、柔軟な観測タイプを許容する。
• パラメータの漂移を許容しつつも、不適切な値の増大を避けるために、修正されたパラメータダイナミクスモデルを用いる。
• パラメータ共分散行列に対してブロック対角近似を適用し、各観測に関与するパラメータのみを更新する。
• フィッシャー情報行列を用いてDEKFの更新式を導出することで、近似ベイズ推論における情報幾何的原則と関連付ける。
• MAP推定値回りで反復するイテレーテッドDEKFの変種を導入し、精度を向上させつつ効率性を損なわない。
• オンラインレコメンデーション設定において、トムソンサンプリングやその他の不確実性駆動型意思決定戦略をサポートする計算フレームワークを適応させる。

実験結果

リサーチクエスチョン

• RQ1 DEKFは、スケーラブルでオンライン学習が可能な動的指数型族要因分解モデルに、効果的に特化できるか？
• RQ2 漂移に配慮したダイナミクスを備えた本手法DEKFは、標準DEKFと比較して、パラメータの安定性と予測精度において優れているか？
• RQ3 ブロック対角の共分散近似は、計算コストを削減しつつ、推定精度をどの程度維持できるか？
• RQ4 DEKFの不確実性推定は、オンラインレコメンデーションシステムにおける効果的な探索／活用戦略を可能にするか？
• RQ5 非ガウス型・非線形モデルにおいて、イテレーテッドDEKFは標準DEKFと比較して、事後分布の近似精度をどの程度向上させるか？

主な発見

• 提案されたDEKFは、各観測ごとに関連するエンティティのみを更新することで、最小限のメモリと計算コストで、動的要因分解モデルにおける効率的でオンラインの学習を実現する。
• 本手法は、パラメータの漂移を適切にモデル化し、標準的なランダムウォークダイナミクスで見られる無制限の増大を回避する安定的で適切なパラメータ推定を実現する。
• 合成データおよび実世界データを用いた数値実験の結果、DEKFは競争力のある予測精度を達成しており、探索／活用行動を支援する不確実性推定も有効である。
• イテレーテッドDEKFの変種は、特に非線形性が強く、または事後分布の平均が事前分布の平均から離れている場合に、事後分布の近似精度を向上させる。
• DEKFの不確実性推定に基づくトムソンサンプリングは、オンラインレコメンデーションタスクにおける報酬最大化を向上させ、不確実性定量の実用的価値を示している。
• ブロック対角の共分散近似は、完全な共分散更新の計算コストを著しく削減しながらも、高い性能を維持しており、大規模モデルへのスケーラビリティを実現している。