[論文レビュー] Session-based Recommendation with Self-Attention Networks

Jun Fang|arXiv (Cornell University)|Feb 3, 2021

Recommender Systems and Techniques参考文献 15被引用数 5

ひとこと要約

本論文では、セッションレベルの埋め込みを必要とせずに、セッション内のアイテム同士のグローバルな依存関係を捉えるために自己注意機構を用いた、SR-SANと呼ばれるセッションベース推薦モデルを提案する。1つのアイテム潜在ベクトルによって現在のユーザーの関心とグローバルな関心の両方をモデル化することで、ベンチマークデータセットにおいて最先端の性能を達成し、従来の手法を上回る次アイテム予測の正確性を実現した。

ABSTRACT

Session-based recommendation aims to predict user's next behavior from current session and previous anonymous sessions. Capturing long-range dependencies between items is a vital challenge in session-based recommendation. A novel approach is proposed for session-based recommendation with self-attention networks (SR-SAN) as a remedy. The self-attention networks (SAN) allow SR-SAN capture the global dependencies among all items of a session regardless of their distance. In SR-SAN, a single item latent vector is used to capture both current interest and global interest instead of session embedding which is composed of current interest embedding and global interest embedding. Some experiments have been performed on some open benchmark datasets. Experimental results show that the proposed method outperforms some state-of-the-arts by comparisons.

研究の動機と目的

• セッションベースの推薦において、アイテム間の長距離依存関係を捉える課題に対処すること。
• 現在の関心とグローバルな関心のモデル化を統合することで、セッションレベルの埋め込み成分を排除すること。
• セッション内のすべてのアイテムにわたる自己注意メカニズムを活用することで、推薦精度を向上させること。
• 標準的なベンチマークデータセットを用いて提案手法の評価を行うこと。
• この文脈において、自己注意アプローチが従来のシーケンスモデリング技術を上回ることを示すこと。

提案手法

• モデルは、自己注意ネットワーク（SAN）を用いて、セッション内のアイテムの文脈的表現を計算し、位置的距離にかかわらず依存関係を捉える。
• 現在の関心とグローバルな関心の両方を表すために、1つのアイテム潜在ベクトルを用い、従来の別々の埋め込みへの分解を置き換える。
• 注意メカニズムは、セッション内のすべてのアイテム間の関連性スコアを計算し、意味的に関連するアイテムに注目できるようにする。
• 最終的な予測ヘッドは、注目された表現を用いて、セッション内の次のアイテムを予測する。
• モデルは、セッション単位の次アイテム予測に対して交差エントロピー損失関数を用いて、エンドツーエンドで訓練される。
• ユーザーIDに依存しないため、匿名のセッションベースの設定にも適している。

実験結果

リサーチクエスチョン

• RQ1 自己注意メカニズムは、セッションベースの推薦において、アイテム間の長距離依存関係を効果的にモデル化できるか？
• RQ2 セッションレベルの埋め込みを統合されたアイテム表現に置き換えることで、性能が向上するか？
• RQ3 提案されたSR-SANモデルは、標準的なベンチマークデータセットにおいて、最先端の手法と比較してどうなるか？
• RQ4 モデルは、長さやアイテムシーケンスが異なるセッションにも適応できるか？
• RQ5 グローバルなアイテム依存関係は、次アイテム予測の正確性にどの程度寄与しているか？

主な発見

• SR-SANモデルは、複数のオープンなベンチマークデータセットにおいて、既存の最先端手法を上回る性能を示した。
• 自己注意メカニズムは、アイテムがシーケンス上で離れている場合でも、長距離依存関係を効果的に捉えることができた。
• 統合されたアイテム潜在ベクトルアプローチにより、モデルの複雑さが軽減された一方で、別々の現在とグローバルな埋め込みを用いるモデルと比較して、性能が維持または向上した。
• 特に、依存関係モデリングがより重要となる長期間のセッションにおいて、再現率と精度の指標で顕著な向上が得られた。
• アブレーションスタディの結果、自己注意メカニズムが、特に非局所的なアイテム関係の捉え方において、性能向上に顕著な寄与をしていることが確認された。
• 異なるデータセットにわたってもモデルの汎用性が高く、実世界の推薦シナリオにおける頑健性とスケーラビリティを示した。