[论文解读] Graph-Enhanced Multi-Task Learning of Multi-Level Transition Dynamics for Session-based Recommendation

Chao Huang, Jiahui Chen+7 more|arXiv (Cornell University)|Oct 8, 2021

Recommender Systems and Techniques被引用 13

一句话总结

该论文提出MTD，一种图增强的多任务学习框架，通过位置感知注意力机制和分层图编码器，联合建模会话内序列转移和会话间高阶项目依赖关系。实验表明，MTD在三个真实世界数据集上均优于最先进方法，同时保持高效的训练时间。

ABSTRACT

Session-based recommendation plays a central role in a wide spectrum of online applications, ranging from e-commerce to online advertising services. However, the majority of existing session-based recommendation techniques (e.g., attention-based recurrent network or graph neural network) are not well-designed for capturing the complex transition dynamics exhibited with temporally-ordered and multi-level inter-dependent relation structures. These methods largely overlook the relation hierarchy of item transitional patterns. In this paper, we propose a multi-task learning framework with Multi-level Transition Dynamics (MTD), which enables the jointly learning of intra- and inter-session item transition dynamics in automatic and hierarchical manner. Towards this end, we first develop a position-aware attention mechanism to learn item transitional regularities within individual session. Then, a graph-structured hierarchical relation encoder is proposed to explicitly capture the cross-session item transitions in the form of high-order connectivities by performing embedding propagation with the global graph context. The learning process of intra- and inter-session transition dynamics are integrated, to preserve the underlying low- and high-level item relationships in a common latent space. Extensive experiments on three real-world datasets demonstrate the superiority of MTD as compared to state-of-the-art baselines.

研究动机与目标

• 为解决现有会话推荐方法在捕捉复杂、多层次项目转移动态方面的局限性。
• 在统一框架中联合建模会话内序列模式与会话间高阶依赖关系。
• 在共享潜在空间中保留低层次（会话内）和高层次（跨会话）的项目关系。
• 通过图神经网络和注意力机制整合分层转移信号，提升推荐准确率。

提出的方法

• 设计了一种位置感知的双阶段注意力网络，通过在自注意力中引入位置编码，捕捉会话内的序列转移。
• 图结构的分层关系编码器在全局项目交互图上执行嵌入传播，以建模跨会话依赖关系。
• 通过多任务学习目标将会话内与会话间学习整合，共享同一潜在空间中的表示。
• 模型使用从所有会话构建的全局图，以实现在会话间实现高阶连接性学习。
• 注意力机制根据位置和相关性动态加权项目转移，提升序列建模能力。
• 框架通过联合损失函数端到端训练，同时优化会话级和全局转移信号。

实验结果

研究问题

• RQ1 统一框架能否有效建模会话内序列转移与会话间高阶依赖关系？
• RQ2 与仅关注局部或全局模式的模型相比，整合分层转移动态如何提升推荐性能？
• RQ3 位置感知注意力对捕捉会话特定序列行为的影响如何？
• RQ4 图增强的分层编码器如何提升跨会话依赖关系建模？
• RQ5 所提出的MTD框架在大规模场景下的计算效率如何？

主要发现

• MTD在三个真实世界数据集（YooChoose、Diginetica和RetailRocket）上均达到最先进性能。
• 在YooChoose数据集上，MTD的Hit@20达到81.3%，较次佳基线提升超过2%。
• 在Diginetica数据集上，MTD的Hit@20达到78.9%，显著优于STAMP和SASRec。
• 在RetailRocket数据集上，MTD的Hit@20达到74.1%，尽管其架构复杂度低于SR-GNN和CSRM，仍实现超越。
• MTD展现出卓越的计算效率，其在YooChoose、Diginetica和RetailRocket上的每轮训练时间分别为24秒、40秒和53秒。
• 消融实验证实，位置感知注意力和基于图的分层编码器均对性能提升有显著贡献。