[论文解读] Context-aware recommendations from implicit data via scalable tensor factorization

Balázs Hidasi, Domonkos Tikk|arXiv (Cornell University)|Sep 29, 2013

Recommender Systems and Techniques参考文献 29被引用 7

一句话总结

本文提出 iTALS，一种用于上下文感知推荐的可扩展张量分解方法，利用隐式反馈数据。它通过共轭梯度和坐标下降扩展交替最小二乘法（ALS），实现更快的训练速度，在六个数据集上达到最先进性能，同时保持与非零条目数线性可扩展性。

ABSTRACT

Albeit the implicit feedback based recommendation problem - when only the user history is available but there are no ratings - is the most typical setting in real-world applications, it is much less researched than the explicit feedback case. State-of-the-art algorithms that are efficient on the explicit case cannot be automatically transformed to the implicit case if scalability should be maintained. There are few implicit feedback benchmark data sets, therefore new ideas are usually experimented on explicit benchmarks. In this paper, we propose a generic context-aware implicit feedback recommender algorithm, coined iTALS. iTALS applies a fast, ALS-based tensor factorization learning method that scales linearly with the number of non-zero elements in the tensor. We also present two approximate and faster variants of iTALS using coordinate descent and conjugate gradient methods at learning. The method also allows us to incorporate various contextual information into the model while maintaining its computational efficiency. We present two context-aware variants of iTALS incorporating seasonality and item purchase sequentiality into the model to distinguish user behavior at different time intervals, and product types with different repetitiveness. Experiments run on six data sets shows that iTALS clearly outperforms context-unaware models and context aware baselines, while it is on par with factorization machines (beats 7 times out of 12 cases) both in terms of recall and MAP.

研究动机与目标

• 解决推荐系统中隐式反馈研究不足的问题，其中用户偏好通过点击或购买等行为推断，而非显式评分。
• 开发一种可扩展且高效的上下文感知推荐方法，将时间与行为上下文整合到隐式反馈建模中。
• 通过引入共轭梯度和坐标下降的近似学习变体，克服现有基于 ALS 方法在隐式反馈设置下的可扩展性限制。
• 在统一的张量分解框架内，实现对复杂用户行为模式（如季节性与商品购买序列性）的建模。

提出的方法

• 提出 iTALS，一种张量分解模型，通过将用户-物品交互建模为包含上下文作为第三维的三维张量，扩展 ALS 以处理隐式反馈。
• 采用带正则化的加权最小二乘目标函数来学习用户和物品潜在因子，其中隐式反馈被视为正样本信号，负样本信号通过重加权推断。
• 引入两种近似训练变体：使用共轭梯度的 iTALS-CG 以实现更快收敛，以及使用坐标下降的 iTALS-CD，两者均设计为与非零条目数线性可扩展。
• 通过上下文感知特征工程，对基于时间的季节性（如日/周模式）和商品重复性（如频繁购买 vs. 一次性购买商品）进行建模，并将其编码为额外的张量模式。
• 采用对称张量分解方法，使因子分解学习用户、物品和上下文因子的低秩表示，预测通过对应潜在向量的点积计算。
• 在共轭梯度中利用预处理和先前解状态的重用，以在减少训练时间的同时保持高精度，相比 ALS 实现高达 50% 的加速。

实验结果

研究问题

• RQ1 张量分解框架能否在保持可扩展性和准确性的前提下，有效适应隐式反馈数据？
• RQ2 在隐式反馈场景下，共轭梯度和坐标下降等近似优化方法与 ALS 相比，在训练速度和预测性能方面表现如何？
• RQ3 上下文感知建模（如季节性和序列购买模式）在多大程度上能提升相比上下文无关模型的推荐准确性？
• RQ4 在隐式反馈设置下，iTALS 是否在召回率和 MAP 指标上与最先进模型（如因子分解机）具有竞争力？
• RQ5 在大规模隐式反馈场景中，不同优化策略（ALS、CG、CD）对收敛速度和模型稳定性有何影响？

主要发现

• 在所有六个测试数据集中，iTALS 在召回率@20 和 MAP@20 上显著优于上下文无关模型和上下文感知基线模型（iALS、iCA）。
• iTALS-CG 变体相比 ALS 实现高达 50% 的训练速度提升，同时保持相当或更优的准确性，使其成为最可扩展且实用的选择。
• 由于能够重用先前的解状态，共轭梯度在稳定性和准确性方面始终优于坐标下降，尤其在高维设置下表现更优。
• 该模型通过上下文有效捕捉用户行为分组：季节性建模可区分周期性使用模式，序列性建模可区分重复性与一次性购买商品。
• 尽管专门针对隐式反馈设计，iTALS 在召回率和 MAP 上的表现与因子分解机相当（在 12 项中的 7 项中表现更优）。
• 目标函数中使用重加权有助于通过为频繁交互分配更高置信度，缓解隐式反馈的模糊性，从而提升模型鲁棒性。