[论文解读] A Hybrid Variational Autoencoder for Collaborative Filtering

Kilol Gupta, Mukund Yelahanka Raghuprasad+1 more|arXiv (Cornell University)|Jul 14, 2018

Recommender Systems and Techniques参考文献 12被引用 10

一句话总结

本文提出一种混合变分自编码器（H-VAE），通过在Movielens 20M数据集上将来自辅助来源（如IMDb摘要、基因组标签和类型）的电影嵌入整合到协同过滤框架中，实现了性能提升。通过在多模态VAE架构中融合这些嵌入与用户评分，该模型在标准VAE基础上显著提升了推荐性能，其中基于IMDb的嵌入在NDCG@100（0.271）和Recall@50（0.572）上取得最大提升，表明丰富且具有情感感知的内容特征可有效增强用户-项目交互建模。

ABSTRACT

In today's day and age when almost every industry has an online presence with users interacting in online marketplaces, personalized recommendations have become quite important. Traditionally, the problem of collaborative filtering has been tackled using Matrix Factorization which is linear in nature. We extend the work of [11] on using variational autoencoders (VAEs) for collaborative filtering with implicit feedback by proposing a hybrid, multi-modal approach. Our approach combines movie embeddings (learned from a sibling VAE network) with user ratings from the Movielens 20M dataset and applies it to the task of movie recommendation. We empirically show how the VAE network is empowered by incorporating movie embeddings. We also visualize movie and user embeddings by clustering their latent representations obtained from a VAE.

研究动机与目标

• 通过将丰富、非线性的项目上下文特征整合到变分自编码器框架中，提升协同过滤性能。
• 探究是否来自文本摘要、标签或类型的辅助电影嵌入能够超越仅依赖评分的建模方式，提升用户-项目交互的建模效果。
• 评估不同嵌入来源（IMDb、基因组、类型）在提升推荐质量方面的相对有效性。
• 验证性能提升源于有意义的语义内容，而非模型架构复杂度或随机初始化。
• 提供一种灵活且可扩展的框架，用于将高维项目特征整合到深度生成模型中，以实现个性化推荐。

提出的方法

• 采用两阶段VAE架构：兄弟VAE从辅助特征（IMDb、基因组、类型）中学习电影嵌入，主VAE则利用融合表示建模用户评分。
• 用户评分被二值化（若评分 > 3.5 则为1，否则为0），以建模隐式反馈，并通过VAE重构损失实现概率输出。
• 混合VAE将用户评分向量与学习到的电影嵌入作为输入，实现用户偏好与项目语义的联合建模。
• 采用三重交叉验证以确保评估稳健性，指标包括NDCG@100、Recall@20和Recall@50，并在各折上取平均。
• 通过t-SNE可视化嵌入，分析用户和电影潜在空间中的聚类模式，评估模型的可解释性。
• 消融研究通过对比随机嵌入的性能，验证性能提升源于有意义的特征表示，而非模型深度。

实验结果

研究问题

• RQ1 在协同过滤中引入外部电影嵌入（来自IMDb、基因组或类型）是否能提升变分自编码器的性能？
• RQ2 哪种辅助特征（IMDb摘要、基因组标签或类型）能生成对推荐最有效的电影嵌入？
• RQ3 使用嵌入带来的性能提升是源于有意义的语义内容，还是仅仅因为模型容量增加？
• RQ4 学习到的用户和电影嵌入在多大程度上反映了现实中的观影行为和电影特征模式？
• RQ5 该混合VAE框架能否推广至具有丰富项目侧特征的其他推荐任务？

主要发现

• 基于IMDb嵌入的混合VAE（H-VAE）在NDCG@100上达到最高分0.271，显著优于标准VAE（0.267）及其他H-VAE变体。
• H-VAE使用IMDb特征时，Recall@50达到0.572，显著优于标准VAE的0.562及使用类型特征的H-VAE（0.531）。
• 使用随机嵌入的H-VAE性能劣于标准VAE，证实性能提升源于信息丰富的语义内容，而非架构复杂度。
• IMDb摘要生成的电影嵌入更能捕捉情感与情绪，相比类型或基因组标签，与用户偏好的对齐更优。
• 可视化结果表明，电影按类型清晰聚类，用户按观影模式分组，表明模型学习到了语义上合理的潜在表示。
• 基因组标签特征集的表现优于类型但逊于IMDb，表明细粒度、描述性标签比宽泛的类别标签更具实用性。