[论文解读] Uniform Sequence Better: Time Interval Aware Data Augmentation for Sequential Recommendation

Yizhou Dang, Enneng Yang+6 more|arXiv (Cornell University)|Dec 16, 2022

Recommender Systems and Techniques被引用 5

一句话总结

该论文提出 TiCoSeRec，一种时间间隔感知的数据增强框架，用于序列推荐，通过五种新颖的算子（Ti-Crop、Ti-Reorder、Ti-Mask、Ti-Substitute、Ti-Insert）将非均匀分布的物品序列转换为均匀分布的序列。通过保持与原始序列的高相似性并采用序列长度控制策略，该方法在四个真实世界数据集上显著提升了推荐性能，优于11种基线模型，包括最先进模型。

ABSTRACT

Sequential recommendation is an important task to predict the next-item to access based on a sequence of interacted items. Most existing works learn user preference as the transition pattern from the previous item to the next one, ignoring the time interval between these two items. However, we observe that the time interval in a sequence may vary significantly different, and thus result in the ineffectiveness of user modeling due to the issue of \emph{preference drift}. In fact, we conducted an empirical study to validate this observation, and found that a sequence with uniformly distributed time interval (denoted as uniform sequence) is more beneficial for performance improvement than that with greatly varying time interval. Therefore, we propose to augment sequence data from the perspective of time interval, which is not studied in the literature. Specifically, we design five operators (Ti-Crop, Ti-Reorder, Ti-Mask, Ti-Substitute, Ti-Insert) to transform the original non-uniform sequence to uniform sequence with the consideration of variance of time intervals. Then, we devise a control strategy to execute data augmentation on item sequences in different lengths. Finally, we implement these improvements on a state-of-the-art model CoSeRec and validate our approach on four real datasets. The experimental results show that our approach reaches significantly better performance than the other 11 competing methods. Our implementation is available: https://github.com/KingGugu/TiCoSeRec.

研究动机与目标

• 研究时间间隔分布对序列推荐性能的影响。
• 解决由于物品交互之间时间间隔高度可变而引发的偏好漂移问题。
• 提出一种数据增强框架，利用时间间隔感知算子将非均匀序列转换为均匀分布的序列。
• 确保增强后的序列与原始序列保持高度相似性，同时提升模型泛化能力。
• 在真实世界序列推荐基准上验证所提方法的有效性。

提出的方法

• 设计五种时间间隔感知的数据增强算子：Ti-Crop、Ti-Reorder、Ti-Mask、Ti-Substitute 和 Ti-Insert，用于将非均匀序列转换为均匀序列。
• 引入对比学习以保持原始序列与增强序列之间的语义相似性。
• 实施一种控制策略，根据序列长度差异性地处理数据增强，尤其针对短序列。
• 将该增强框架应用于 CoSeRec 模型，构建一种时间间隔感知的序列推荐模型 TiCoSeRec。
• 使用标准评估指标（HR@k 和 NDCG@k），其中 k ∈ {10,20}，在多个数据集上比较性能。
• 调整参数 σ，以控制被视为均匀分布的序列比例，从而优化性能。

实验结果

研究问题

• RQ1 与非均匀间隔相比，用户交互序列中时间间隔均匀分布是否能带来更好的序列推荐性能？
• RQ2 基于时间间隔分布的数据增强能否提升序列推荐模型的泛化能力和鲁棒性？
• RQ3 不同时间间隔感知的数据增强算子对推荐性能的独立贡献如何？
• RQ4 为最大化性能，应将多少比例的序列视为均匀分布（由 σ 控制）为最优？
• RQ5 所提方法与现有最先进模型相比在序列推荐任务中的表现如何？

主要发现

• 实证研究证实，均匀序列相比非均匀序列能显著提升推荐性能，验证了本文的核心假设。
• TiCoSeRec 在四个真实世界数据集上均达到最先进性能，相较于第二好的方法，相对提升幅度在 5% 至 18% 之间。
• TS（Ti-Substitute）算子对性能影响最大，而 TR（Ti-Reorder）算子影响最小，表明各算子贡献程度不同。
• σ 的最优值被确定为 0.2，即对前 20% 的序列视为均匀分布；当 σ 值过高（如 σ > 0.4）时，性能反而下降。
• 所有采用时间间隔感知算子的 TiCoSeRec 变体均优于基线模型 CoSeRec，即使将其中一个算子替换为传统算子，也仍表现更优，证实了所提算子的有效性。
• 该方法在所有数据集和评估指标（HR@k 和 NDCG@k）上均一致提升性能，展现出良好的鲁棒性和泛化能力。