[论文解读] Personalized Federated Sequential Recommender
PFSR 通过提出关联性 Mamba 块、变量响应机制和动态幅值损失,实现对细粒度个性化的高效联邦序列推荐,在多个数据集上表现出色且高效。
In the domain of consumer electronics, personalized sequential recommendation has emerged as a central task. Current methodologies in this field are largely centered on modeling user behavior and have achieved notable performance. Nevertheless, the inherent quadratic computational complexity typical of most existing approaches often leads to inefficiencies that hinder real-time recommendation. Moreover, these methods face challenges in being effectively adapted to the personalized requirements of users across diverse scenarios. To tackle these issues, we propose the Personalized Federated Sequential Recommender (PFSR). In this framework, an Associative Mamba Block is introduced to capture user profiles from a global perspective while improving prediction efficiency. In addition, a Variable Response Mechanism is developed to enable fine-tuning of parameters in accordance with individual user needs. A Dynamic Magnitude Loss is further devised to preserve greater amounts of localized personalized information throughout the training process.
研究动机与目标
- 在消费电子领域动机化个性化序列推荐并解决二次复杂性带来的低效问题。
- 提出一个用于个性化联邦学习的细粒度全局建模框架。
- 引入机制以在保留局部信息的同时保护个性化参数免受噪声影响。
- 通过真实数据集的实验展示高效性与有效性。
提出的方法
- 使用 Fisher 信息引入变量响应机制以创建分层掩码并选择性更新参数。
- 开发 Embedding Module、Associative Mamba Block 与 Prediction Module 以实现双向的全球用户画像。
- 在训练中使用带正则项的 Dynamic Magnitude Loss 以保留局部个性化信息。
- 在雇用边缘设备与中心服务器的联邦设置中操作,使个性化参数自适应成为可能。
- 提供包括超参数及 Associative Mamba Block 架构选择的实现细节。
实验结果
研究问题
- RQ1细粒度的全局建模是否能够在不牺牲效率的前提下提升联邦序列推荐的个性化?
- RQ2如何通过基于 Fisher Information 的参数掩码在本地更新时保护高信息量的参数?
- RQ3Associative Mamba Block 能否在多样场景中有效捕捉全球用户画像?
- RQ4动态幅值损失是否有助于在整个训练过程保留局部个性化?
主要发现
| 数据集 | HR@5 | HR@10 | NDCG@5 | NDCG@10 |
|---|---|---|---|---|
| Beauty | 0.2447 | 0.3012 | 0.1817 | 0.2096 |
| Beauty (SASRec) | 0.1502 | 0.2038 | 0.1065 | 0.1239 |
| Beauty (CoSeRec) | 0.1519 | 0.2062 | 0.1081 | 0.1253 |
| Beauty (SURGE) | 0.1814 | 0.2586 | 0.1137 | 0.1425 |
| Beauty (IOCRec) | 0.1872 | 0.2439 | 0.1203 | 0.1387 |
| Beauty (DuoRec) | 0.2158 | 0.2721 | 0.1607 | 0.1826 |
| Beauty (ContraRec) | 0.1978 | 0.2456 | 0.1293 | 0.1402 |
| Beauty (LRURec) | 0.2235 | 0.2810 | 0.1664 | 0.1951 |
| Beauty (EchoMamba4Rec) | 0.1873 | 0.2395 | 0.1276 | 0.1342 |
| Beauty (PFSR) | 0.2447 | 0.3012 | 0.1817 | 0.2096 |
| Yelp | 0.3325 | 0.4679 | 0.2685 | 0.3112 |
| Yelp (SASRec) | 0.2607 | 0.3691 | 0.1834 | 0.2193 |
| Yelp (CoSeRec) | 0.2648 | 0.3746 | 0.1865 | 0.2228 |
| Yelp (SURGE) | 0.2723 | 0.3803 | 0.1901 | 0.2270 |
| Yelp (IOCRec) | 0.2875 | 0.3941 | 0.2077 | 0.2432 |
| Yelp (DuoRec) | 0.3214 | 0.4385 | 0.2574 | 0.2869 |
| Yelp (ContraRec) | 0.3031 | 0.4228 | 0.2145 | 0.2509 |
| Yelp (LRURec) | 0.3196 | 0.4493 | 0.2395 | 0.2967 |
| Yelp (EchoMamba4Rec) | 0.2947 | 0.4154 | 0.1964 | 0.2451 |
| Yelp (PFSR) | 0.3325 | 0.4679 | 0.2685 | 0.3112 |
| Gowalla | 0.7563 | 0.8554 | 0.6097 | 0.6426 |
| Gowalla (SASRec) | 0.6114 | 0.7287 | 0.4736 | 0.5119 |
| Gowalla (CoSeRec) | 0.6195 | 0.7375 | 0.4805 | 0.5213 |
| Gowalla (SURGE) | 0.6281 | 0.7468 | 0.4829 | 0.5312 |
| Gowalla (IOCRec) | 0.6326 | 0.7583 | 0.4931 | 0.5324 |
| Gowalla (DuoRec) | 0.6856 | 0.7938 | 0.5250 | 0.5651 |
| Gowalla (ContraRec) | 0.7072 | 0.8061 | 0.5594 | 0.5905 |
| Gowalla (LRURec) | 0.7158 | 0.8206 | 0.5681 | 0.5973 |
| Gowalla (EchoMamba4Rec) | 0.6795 | 0.7505 | 0.5012 | 0.5294 |
| Gowalla (PFSR) | 0.7563 | 0.8554 | 0.6097 | 0.6426 |
- PFSR 在 Beauty、Yelp 与 Gowalla 数据集上始终优于基线方法(SASRec、CoSeRec、SURGE、IOCRec、DuoRec、ContraRec、LRURec、EchoMamba4Rec)。
- 在 Beauty 数据集,PFSR 以 HR@5=0.2447、HR@10=0.3012、NDCG@5=0.1817、NDCG@10=0.2096 达到最高指标。
- 在 Yelp 数据集,PFSR 以 HR@5=0.3325、HR@10=0.4679、NDCG@5=0.2685、NDCG@10=0.3112 达到最高指标。
- 在 Gowalla 数据集,PFSR 以 HR@5=0.7563、HR@10=0.8554、NDCG@5=0.6097、NDCG@10=0.6426 达到最高指标。
- 表中改进显示相对于最强基线的显著提升(Improve% 值表示相对增益)。
- 结果支持 Associative Mamba Block 的双通道处理与提出的个性化机制在提升准确性与效率方面均有效。
更好的研究,从现在开始
从论文设计到论文写作,大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成,并经人工编辑审核。