[論文レビュー] Personalized Federated Sequential Recommender
PFSRはAssociative Mamba Block、Variable Response Mechanism、Dynamic Magnitude Lossを導入し、細粒度かつ効率的な個別化連合シーケンシャル推奨を可能にする。複数データセットで優れた性能と効率を達成。
In the domain of consumer electronics, personalized sequential recommendation has emerged as a central task. Current methodologies in this field are largely centered on modeling user behavior and have achieved notable performance. Nevertheless, the inherent quadratic computational complexity typical of most existing approaches often leads to inefficiencies that hinder real-time recommendation. Moreover, these methods face challenges in being effectively adapted to the personalized requirements of users across diverse scenarios. To tackle these issues, we propose the Personalized Federated Sequential Recommender (PFSR). In this framework, an Associative Mamba Block is introduced to capture user profiles from a global perspective while improving prediction efficiency. In addition, a Variable Response Mechanism is developed to enable fine-tuning of parameters in accordance with individual user needs. A Dynamic Magnitude Loss is further devised to preserve greater amounts of localized personalized information throughout the training process.
研究の動機と目的
- 家電製品における個別化シーケンシャル推奨の動機づけと、二次平方計算による非効率の解消
- 個別化連合学習のための微細なグローバルモデリング框組の提案
- 個別パラメータをノイズから保護しつつ局所情報を保持する機構の導入
- 現実世界データセットでの実験を通じた効率と有効性の実証
提案手法
- Fisher情報を用いたVariable Response Mechanismを導入し、層ごとのマスクを作成しパラメータを選択的に更新
- 埋め込みモジュール、Associative Mamba Block、予測モジュールを開発して双方向のグローバルユーザプロファイリングを実現
- 訓練中に局所的な個別情報を保持するための正則化項を伴うDynamic Magnitude Lossの導入
- エッジデバイスと中央サーバを含むフェデレーテッド設定での動作により、個別パラメータ適応を実現
- Associative Mamba Blockのハイパーパラメータとアーキテクチャ選択を含む実装詳細を提供
実験結果
リサーチクエスチョン
- RQ1フェデレーテッドシーケンシャル推奨において微細なグローバルモデリングは効率を犠牲にすることなくパーソナライズを改善できるか
- RQ2局所更新時に高情報パラメータを守るためのFisher情報ガイド付きパラメータマスキングは有効か
- RQ3Associative Mamba Blockは多様な状況でグローバルユーザプロファイルを効果的に捉えるか
- RQ4Dynamic Magnitude Lossは訓練全体を通じて局所的なパーソナライズを保持するか
主な発見
| Dataset | HR@5 | HR@10 | NDCG@5 | NDCG@10 |
|---|---|---|---|---|
| Beauty | 0.2447 | 0.3012 | 0.1817 | 0.2096 |
| Beauty (SASRec) | 0.1502 | 0.2038 | 0.1065 | 0.1239 |
| Beauty (CoSeRec) | 0.1519 | 0.2062 | 0.1081 | 0.1253 |
| Beauty (SURGE) | 0.1814 | 0.2586 | 0.1137 | 0.1425 |
| Beauty (IOCRec) | 0.1872 | 0.2439 | 0.1203 | 0.1387 |
| Beauty (DuoRec) | 0.2158 | 0.2721 | 0.1607 | 0.1826 |
| Beauty (ContraRec) | 0.1978 | 0.2456 | 0.1293 | 0.1402 |
| Beauty (LRURec) | 0.2235 | 0.2810 | 0.1664 | 0.1951 |
| Beauty (EchoMamba4Rec) | 0.1873 | 0.2395 | 0.1276 | 0.1342 |
| Beauty (PFSR) | 0.2447 | 0.3012 | 0.1817 | 0.2096 |
| Yelp | 0.3325 | 0.4679 | 0.2685 | 0.3112 |
| Yelp (SASRec) | 0.2607 | 0.3691 | 0.1834 | 0.2193 |
| Yelp (CoSeRec) | 0.2648 | 0.3746 | 0.1865 | 0.2228 |
| Yelp (SURGE) | 0.2723 | 0.3803 | 0.1901 | 0.2270 |
| Yelp (IOCRec) | 0.2875 | 0.3941 | 0.2077 | 0.2432 |
| Yelp (DuoRec) | 0.3214 | 0.4385 | 0.2574 | 0.2869 |
| Yelp (ContraRec) | 0.3031 | 0.4228 | 0.2145 | 0.2509 |
| Yelp (LRURec) | 0.3196 | 0.4493 | 0.2395 | 0.2967 |
| Yelp (EchoMamba4Rec) | 0.2947 | 0.4154 | 0.1964 | 0.2451 |
| Yelp (PFSR) | 0.3325 | 0.4679 | 0.2685 | 0.3112 |
| Gowalla | 0.7563 | 0.8554 | 0.6097 | 0.6426 |
| Gowalla (SASRec) | 0.6114 | 0.7287 | 0.4736 | 0.5119 |
| Gowalla (CoSeRec) | 0.6195 | 0.7375 | 0.4805 | 0.5213 |
| Gowalla (SURGE) | 0.6281 | 0.7468 | 0.4829 | 0.5312 |
| Gowalla (IOCRec) | 0.6326 | 0.7583 | 0.4931 | 0.5324 |
| Gowalla (DuoRec) | 0.6856 | 0.7938 | 0.5250 | 0.5651 |
| Gowalla (ContraRec) | 0.7072 | 0.8061 | 0.5594 | 0.5905 |
| Gowalla (LRURec) | 0.7158 | 0.8206 | 0.5681 | 0.5973 |
| Gowalla (EchoMamba4Rec) | 0.6795 | 0.7505 | 0.5012 | 0.5294 |
| Gowalla (PFSR) | 0.7563 | 0.8554 | 0.6097 | 0.6426 |
- PFSRはBeauty、Yelp、Gowallaデータセット全体でベースライン(SASRec, CoSeRec, SURGE, IOCRec, DuoRec, ContraRec, LRURec, EchoMamba4Rec)を一貫して上回る
- BeautyではPFSRがHR@5=0.2447, HR@10=0.3012, NDCG@5=0.1817, NDCG@10=0.2096でトップの指標を達成
- YelpではPFSRがHR@5=0.3325, HR@10=0.4679, NDCG@5=0.2685, NDCG@10=0.3112でトップの指標を達成
- GowallaではPFSRがHR@5=0.7563, HR@10=0.8554, NDCG@5=0.6097, NDCG@10=0.6426でトップの指標を達成
- 表の改善は strongest baselines に対して実質的な利得を示す(Improve%は相対利得を示す)
- Associative Mamba Blockのデュアルチャネル処理と提案されたパーソナライズ機構が精度と効率の双方を向上させることを裏付ける
より良い研究を、今すぐ始めましょう
論文設計から論文執筆まで、研究時間を劇的に削減しましょう。
クレジットカード登録不要
このレビューはAIが作成し、人間の編集者が確認しました。