[論文レビュー] Uniform Sequence Better: Time Interval Aware Data Augmentation for Sequential Recommendation

Yizhou Dang, Enneng Yang+6 more|arXiv (Cornell University)|Dec 16, 2022

Recommender Systems and Techniques被引用数 5

ひとこと要約

本稿では、非一様なアイテム系列を均一に分布させるために5つの新規演算子（Ti-Crop, Ti-Reorder, Ti-Mask, Ti-Substitute, Ti-Insert）を用いる時間間隔に配慮したデータ拡張フレームワーク、TiCoSeRecを提案する。元の系列との高い類似性を保ちつつ、系列長に応じた制御戦略を適用することで、4つの実世界データセットにおいて11のベースライン（最先端モデルを含む）を上回る顕著な推薦性能の向上を達成する。

ABSTRACT

Sequential recommendation is an important task to predict the next-item to access based on a sequence of interacted items. Most existing works learn user preference as the transition pattern from the previous item to the next one, ignoring the time interval between these two items. However, we observe that the time interval in a sequence may vary significantly different, and thus result in the ineffectiveness of user modeling due to the issue of \emph{preference drift}. In fact, we conducted an empirical study to validate this observation, and found that a sequence with uniformly distributed time interval (denoted as uniform sequence) is more beneficial for performance improvement than that with greatly varying time interval. Therefore, we propose to augment sequence data from the perspective of time interval, which is not studied in the literature. Specifically, we design five operators (Ti-Crop, Ti-Reorder, Ti-Mask, Ti-Substitute, Ti-Insert) to transform the original non-uniform sequence to uniform sequence with the consideration of variance of time intervals. Then, we devise a control strategy to execute data augmentation on item sequences in different lengths. Finally, we implement these improvements on a state-of-the-art model CoSeRec and validate our approach on four real datasets. The experimental results show that our approach reaches significantly better performance than the other 11 competing methods. Our implementation is available: https://github.com/KingGugu/TiCoSeRec.

研究の動機と目的

• 時間間隔分布が順序推薦性能に与える影響を調査すること。
• アイテム相互作用間の時間間隔が著しく変動することに起因する好みのずれ（preference drift）の問題に対処すること。
• 時間間隔に配慮した演算子を用いて、非一様な系列を均一に分布させるデータ拡張フレームワークを提案すること。
• 拡張された系列が元の系列と高い類似性を保ちつつ、モデルの一般化性能を向上させること。
• 提案手法の有効性を実世界の順序推薦ベンチマークで検証すること。

提案手法

• 非一様な系列を均一な系列に変換するための5つの時間間隔に配慮したデータ拡張演算子（Ti-Crop, Ti-Reorder, Ti-Mask, Ti-Substitute, Ti-Insert）を設計する。
• 元の系列と拡張された系列の間で意味的類似性を保つために対照学習を統合する。
• 特に短い系列に対して異なる処理を施すために、系列長に応じた制御戦略を実装する。
• CoSeRecモデルに拡張フレームワークを適用し、時間間隔に配慮した順序推薦モデルであるTiCoSeRecを構築する。
• 標準的な評価指標（HR@k および NDCG@k、k ∈ {10,20}）を用いて、複数のデータセット間で性能を比較する。
• 系列を均一とみなす割合を制御するパラメータσをチューニングし、性能最適化を行う。

実験結果

リサーチクエスチョン

• RQ1 ユーザーの相互作用系列における均一な時間間隔は、非均一な時間間隔と比較して、より優れた順序推薦性能をもたらすか？
• RQ2 時間間隔分布に基づくデータ拡張は、順序推薦モデルの一般化性能およびロバストネスを向上させられるか？
• RQ3 時間間隔に配慮した異なるデータ拡張演算子は、推薦性能にそれぞれどのように寄与しているか？
• RQ4 性能を最大化するために、系列の最適な均一化割合（σで制御）はどの程度か？
• RQ5 提案手法は、既存の最先端モデルと比較して、順序推薦において優れているか？

主な発見

• 実験的分析により、均一な系列が非均一な系列よりも顕著に優れた推薦性能を示すことが確認され、本稿の核心仮説が裏付けられた。
• TiCoSeRecは、4つの実世界データセットにおいて最先端性能を達成し、2番目に優れた手法と比較して相対的に5%から18%の改善を示した。
• TS（Ti-Substitute）演算子が性能向上に最も大きな寄与を示した一方、TR（Ti-Reorder）演算子は最も影響が小さく、各演算子の寄与度に差があることが示された。
• σの最適値は0.2（上位20%の系列を均一とみなす）であると特定され、より高い値（例：σ > 0.4）では性能が低下することがわかった。
• 時間間隔に配慮した演算子を用いたTiCoSeRecのすべての変種が、ベースラインのCoSeRecを上回った。たとえ1つの演算子を従来のものに置き換えても同様の結果が得られ、提案された演算子の有効性が確認された。
• 本手法は、すべてのデータセットおよび評価指標（HR@k および NDCG@k）において一貫して性能を向上させ、ロバストネスと一般化性能を示した。