[论文解读] Deep Heterogeneous Autoencoders for Collaborative Filtering

Tianyu Li, Yukun Ma+4 more|arXiv (Cornell University)|Dec 17, 2018

Recommender Systems and Techniques参考文献 15被引用 6

一句话总结

本文提出深度异构自编码器（DHA）用于协同过滤，通过堆叠去噪自编码器（SDAE）处理静态数据（如用户资料、商品标签），并利用LSTM的RNN编码器-解码器（RNNED）建模用户购买历史序列，以捕捉用户偏好的动态演变。该模型实现了最先进性能，在电子商务和MovieLens数据集上，平均平均精度（MAP）和召回率最高提升36.7%，通过联合学习来自异构数据源的共享潜在表征。

ABSTRACT

This paper leverages heterogeneous auxiliary information to address the data sparsity problem of recommender systems. We propose a model that learns a shared feature space from heterogeneous data, such as item descriptions, product tags and online purchase history, to obtain better predictions. Our model consists of autoencoders, not only for numerical and categorical data, but also for sequential data, which enables capturing user tastes, item characteristics and the recent dynamics of user preference. We learn the autoencoder architecture for each data source independently in order to better model their statistical properties. Our evaluation on two MovieLens datasets and an e-commerce dataset shows that mean average precision and recall improve over state-of-the-art methods.

研究动机与目标

• 为解决协同过滤中的数据稀疏性问题，通过整合用户资料、商品描述、标签以及序列购买历史等异构辅助信息。
• 通过统一的表征框架，同时建模静态的用户与商品特征以及随时间变化的用户偏好动态。
• 通过独立的、针对不同数据类型的自编码器架构，从多样化数据类型中学习共享潜在特征，以提升推荐准确性。
• 证明对近期用户行为进行序列建模，可显著提升推荐性能，优于仅依赖静态辅助信息的模型。

提出的方法

• 该模型使用堆叠去噪自编码器（SDAE）从用户人口统计学和商品标签等数值型与类别型数据中学习低维、鲁棒的表征。
• 对于用户购买历史等序列数据，采用带有长短期记忆（LSTM）单元的循环神经网络编码器-解码器（RNNED）以捕捉时间动态与用户兴趣的演变。
• 每种数据源均使用针对其统计特性量身定制的自编码器架构独立编码，允许各源使用不同数量的隐藏层和神经元。
• 各数据源生成的局部表征被融合至一个共享潜在空间，联合建模用户-物品交互与协同过滤信号。
• 最终的用户-物品交互矩阵通过学习到的用户与物品潜在因子矩阵的点积近似，使用随机梯度下降进行训练，并通过网格搜索确定超参数。
• 模型在表征联合学习与协同过滤优化之间交替进行，每轮特征提取步骤包含3轮交替训练与3轮训练周期。

实验结果

研究问题

• RQ1 在数据稀疏场景下，整合用户资料、商品描述及序列购买历史等异构辅助数据，是否能提升协同过滤性能？
• RQ2 与仅使用静态特征建模相比，使用基于RNN的编码器对用户行为序列进行建模，是否能更有效地捕捉用户偏好的动态变化？
• RQ3 针对每种数据源独立设计的自编码器架构，如何影响表征质量与下游推荐准确性？
• RQ4 近期用户购买序列在多大程度上能反映当前用户兴趣，并提升离线产品推荐效果？

主要发现

• 在OfflinePay电子商务数据集上，DHA-all在d=50时达到MAP@100为0.0424，相比基线隐式协同过滤模型（0.0155）提升42.4%。
• DHA-RNNED-s5（5步购买历史）在d=150时达到MAP@100为0.0367，优于DHA-RNNED-s10（0.0339），支持了近期购买行为更能反映当前偏好的假设。
• DHA-RNNED-item（仅建模在线购买序列与商品类型描述）在d=50时达到MAP@100为0.0394，优于CDL（0.0296）与DCF（0.0237），表明即使无用户注册数据，序列数据仍具有显著价值。
• DHA-all模型融合所有数据源，在所有配置中均取得最高MAP与召回率，证明了静态与序列信息联合使用的优越性。
• 尽管使用了更多辅助信息，DCF性能仍低于CDL，表明噪声大或过时的用户注册数据可能降低性能，凸显了数据质量与相关性的重要性。