[论文解读] The decoupled extended Kalman filter for dynamic exponential-family factorization models

Carlos Alberto Gomez-Uribe, Brian Karrer|arXiv (Cornell University)|Jun 26, 2018

Tensor decomposition and applications参考文献 35被引用 3

一句话总结

本文提出了一种专用于动态指数族因子分解模型的解耦扩展卡尔曼滤波器（DEKF），实现了在线自适应学习并提供不确定性估计。通过建模参数漂移并采用块对角协方差近似，该方法仅在每次观测时更新相关参数，支持探索/利用策略，在真实世界和合成数据上展现出优于标准方法的可扩展性与适应性。

ABSTRACT

Motivated by the needs of online large-scale recommender systems, we specialize the decoupled extended Kalman filter (DEKF) to factorization models, including factorization machines, matrix and tensor factorization, and illustrate the effectiveness of the approach through numerical experiments on synthetic and on real-world data. Online learning of model parameters through the DEKF makes factorization models more broadly useful by (i) allowing for more flexible observations through the entire exponential family, (ii) modeling parameter drift, and (iii) producing parameter uncertainty estimates that can enable explore/exploit and other applications. We use a different parameter dynamics than the standard DEKF, allowing parameter drift while encouraging reasonable values. We also present an alternate derivation of the extended Kalman filter and DEKF that highlights the role of the Fisher information matrix in the EKF.

研究动机与目标

• 解决静态、批处理因子分解模型在大规模、时变推荐系统中的局限性。
• 为动态用户偏好和非平稳数据实现在线参数学习并量化不确定性。
• 将DEKF扩展至指数族因子分解模型，包括矩阵/张量分解和因子分解机。
• 通过后验分布的校准不确定性估计，支持探索/利用策略。
• 通过仅更新每次新观测中涉及的实体，结合块对角协方差近似，提升计算效率。

提出的方法

• 将DEKF专门化于指数族因子分解模型，支持二值、计数或连续结果等灵活的观测类型。
• 采用改进的参数动态模型，允许参数漂移的同时鼓励合理的参数取值，避免无界增长。
• 对参数协方差矩阵应用块对角近似，仅更新与每次新观测中涉及的实体相关的参数。
• 利用费舍尔信息矩阵推导DEKF更新方程，将该方法与近似贝叶斯推断中的信息几何原理相联系。
• 提出一种迭代DEKF变体，通过在MAP估计周围迭代改进后验近似，提升精度而不损失效率。
• 将计算框架适配以支持在线推荐场景中的Thompson采样及其他基于不确定性的决策策略。

实验结果

研究问题

• RQ1 DEKF能否被有效专门化于动态指数族因子分解模型，实现可扩展的在线学习？
• RQ2 与标准DEKF相比，具有漂移感知动态的所提DEKF在参数稳定性和预测准确性方面表现如何？
• RQ3 块对角协方差近似在显著降低计算成本的同时，能在多大程度上保持估计精度？
• RQ4 DEKF的不确定性估计能否在在线推荐系统中有效支持探索/利用策略？
• RQ5 在非高斯、非线性模型中，迭代DEKF相较于标准DEKF在后验近似方面有何改进？

主要发现

• 所提DEKF通过仅在每次观测中更新相关实体，实现了在动态因子分解模型中的高效在线学习，内存和计算开销极低。
• 该方法成功建模了参数漂移，同时保持了稳定且行为良好的参数估计，避免了标准随机游走动态中常见的无界增长。
• 在合成数据和真实世界数据上的数值实验表明，DEKF实现了具有竞争力的预测准确性，其不确定性估计支持了有效的探索/利用行为。
• 迭代DEKF变体在后验近似精度方面有所提升，尤其在高非线性或后验均值远离先验均值的情况下表现更优。
• 基于DEKF不确定性估计的Thompson采样在在线推荐任务中实现了更高的奖励最大化，证明了不确定性量化方法的实际效用。
• 块对角协方差近似在显著降低全协方差更新计算成本的同时，保持了强劲的性能表现，使该方法可扩展至大规模模型。