[论文解读] Integrating User and Item Reviews in Deep Cooperative Neural Networks for Movie Recommendation

Aristeidis Karras, Christos Karras|arXiv (Cornell University)|May 12, 2022

Recommender Systems and Techniques被引用 5

一句话总结

本文提出 DeepCoNN，一种深度协作神经网络，通过并行卷积神经网络（CNN）和共享潜在因子层，联合建模用户评论中的用户行为与商品评论中的商品属性。该模型在使用 100 维 GloVe 词嵌入和 dropout 正则化的 Amazon Instant Video 数据集上，实现了最低的均方误差（MSE）0.8549，优于基线推荐系统。

ABSTRACT

User evaluations include a significant quantity of information across online platforms. This information source has been neglected by the majority of existing recommendation systems, despite its potential to ease the sparsity issue and enhance the quality of suggestions. This work presents a deep model for concurrently learning item attributes and user behaviour from review text. Deep Cooperative Neural Network (DeepCoNN) is the suggested model consisting of two parallel neural networks connected in their final layers. One of the networks focuses on learning user behaviour from reviews submitted by the user, while the other network learns item attributes from user reviews. On top, a shared layer is added to connect these two networks. Similar to factorization machine approaches, the shared layer allows latent factors acquired for people and things to interact with each other. On a number of datasets, DeepCoNN surpasses all baseline recommendation systems, according to experimental findings.

研究动机与目标

• 通过利用文本评论数据，解决协同过滤中的数据稀疏性问题。
• 通过联合建模评论文本中的用户行为与商品属性，提升推荐准确率。
• 评估深度学习架构（CNN、LSTM、GRU）在整合文本与评分数据用于推荐任务中的有效性。
• 探究词嵌入维度与 dropout 正则化对模型泛化能力的影响。

提出的方法

• 模型使用两个并行的卷积神经网络：一个处理用户评论以学习用户行为，另一个处理商品评论以学习商品属性。
• 两个网络的最终层通过一个共享层连接，实现学习到的用户与商品潜在因子之间的交互，模拟矩阵分解模型的机制。
• 使用词嵌入（GloVe）表示文本，测试了 50 维与 100 维两种变体以进行性能比较。
• 评估了三种架构：CNN、LSTM 和 GRU，对所有模型应用 dropout 以缓解过拟合，尤其在基于 RNN 的模型中更为关键。
• 模型训练采用均方误差（MSE）损失函数进行评分预测，训练过程中监控验证损失。
• 超参数调优聚焦于嵌入维度与 dropout 比率，在相同设置下对不同模型进行比较。

实验结果

研究问题

• RQ1 在数据稀疏的推荐场景中，整合用户与商品评论是否能提升评分预测的准确性？
• RQ2 DeepCoNN 的性能与传统协同过滤及其他基于深度学习的推荐模型相比如何？
• RQ3 提高词嵌入维度是否能提升模型性能，还是反而导致过拟合？
• RQ4 dropout 正则化在 RNN 变体（如 LSTM 和 GRU）中在多大程度上提升了泛化能力？
• RQ5 在性能与训练效率之间，CNN、LSTM 和 GRU 哪种架构提供了最佳权衡？

主要发现

• 基于 CNN 的 DeepCoNN 模型在使用 100 维 GloVe 词嵌入和 dropout 正则化时，达到了最低的验证均方误差（MSE）0.8549，优于所有其他配置。
• dropout 正则化改善了 LSTM 和 GRU 模型的泛化能力，但过拟合问题依然存在，尤其在更高维嵌入下更为明显。
• 100 维嵌入配置在 GRU 模型中表现更差，可能由于过拟合，表明更高的维度并不总是带来性能提升。
• 与 RNN 相比，CNN 架构表现出更少的过拟合现象，这可能解释了为何在原始 DeepCoNN 研究中 dropout 的影响较小。
• 尽管训练复杂度更高，LSTM 和 GRU 模型显示出潜在的精度增益，但需要更长的训练时间。
• 本研究证实，DeepCoNN 通过有效利用文本评论数据，在数据稀疏场景下显著优于传统协同过滤方法。