[论文解读] Coupled Graphs and Tensor Factorization for Recommender Systems and Community Detection

Vassilis N. Ioannidis, Ahmed S. Zamzam+2 more|arXiv (Cornell University)|Sep 22, 2018

Tensor decomposition and applications参考文献 27被引用 15

一句话总结

该论文提出了一种新型模型——耦合图-张量分解（CGTF），通过联合利用不完整的张量和图结构的辅助信息，提升推荐系统与社区检测的性能。采用基于交替方向乘数法（ADMM）的新型算法，并结合闭式更新，CGTF在收敛性上具有保证，能够有效处理张量和图中的缺失数据，在真实数据集上的准确率与鲁棒性均优于当前最先进方法。

ABSTRACT

Joint analysis of data from multiple information repositories facilitates uncovering the underlying structure in heterogeneous datasets. Single and coupled matrix-tensor factorization (CMTF) has been widely used in this context for imputation-based recommendation from ratings, social network, and other user-item data. When this side information is in the form of item-item correlation matrices or graphs, existing CMTF algorithms may fall short. Alleviating current limitations, we introduce a novel model coined coupled graph-tensor factorization (CGTF) that judiciously accounts for graph-related side information. The CGTF model has the potential to overcome practical challenges, such as missing slabs from the tensor and/or missing rows/columns from the correlation matrices. A novel alternating direction method of multipliers (ADMM) is also developed that recovers the nonnegative factors of CGTF. Our algorithm enjoys closed-form updates that result in reduced computational complexity and allow for convergence claims. A novel direction is further explored by employing the interpretable factors to detect graph communities having the tensor as side information. The resulting community detection approach is successful even when some links in the graphs are missing. Results with real data sets corroborate the merits of the proposed methods relative to state-of-the-art competing factorization techniques in providing recommendations and detecting communities.

研究动机与目标

• 通过引入图结构的辅助信息，解决推荐系统中用户或项目数据缺失导致的冷启动问题。
• 通过利用张量数据作为辅助信息，提升部分观测网络中的社区检测性能。
• 设计一个统一框架，联合建模张量与图，实现数据补全与推理的相互增强。
• 设计一种高效且收敛的优化算法，能够处理张量与相关性矩阵中的缺失条目。

提出的方法

• 提出耦合图-张量分解（CGTF）模型，一种通过共享潜在因子将张量与多个图联合分解的联合因子分解方法。
• 采用带闭式更新的交替方向乘数法（ADMM）算法，以确保收敛性并降低计算复杂度。
• 引入非负性约束，并通过增广拉格朗日与变量分裂的形式，将问题建模为可处理缺失数据的形式。
• 对优化问题进行重构，使每个变量的子问题具有强凸性，从而支持收敛性证明。
• 在ADMM求解器中利用数据稀疏性，进一步提升效率与可扩展性。
• 利用CGTF生成的可解释潜在因子，即使在图中存在缺失边的情况下，也能实现对社区的有效检测。

实验结果

研究问题

• RQ1 联合建模张量与图是否能提升在存在缺失数据的推荐系统中的评分预测性能？
• RQ2 当图中边部分缺失时，张量数据是否能增强图的社区检测性能？
• RQ3 所提出的CGTF模型是否在处理不完整数据方面优于现有的CMTF与张量分解方法？
• RQ4 基于ADMM的CGTF算法是否能以低计算成本实现收敛并支持闭式更新？
• RQ5 CGTF框架在张量中缺失切片或图矩阵中缺失行/列的情况下，其鲁棒性如何？

主要发现

• 在真实数据集上，所提出的CGTF模型相比当前最先进CMTF与张量分解方法，显著提升了评分预测的准确性。
• 基于ADMM的算法实现了收敛性，且通过闭式更新降低了计算复杂度，具备良好的可扩展性。
• 该方法能有效处理缺失数据，包括张量中的缺失切片与图相关性矩阵中的缺失条目，成功克服冷启动问题。
• 在图中高达30%的链接缺失时，使用CGTF因子进行社区检测的性能依然显著提升。
• 实验结果表明，CGTF在合成数据集与真实数据集上，均在推荐准确率与社区检测F1分数上优于对比方法。
• 理论分析证实ADMM算法具有收敛性，且原始与对偶变量在渐近意义上满足KKT条件。