[論文レビュー] Modeling Dynamic Attributes for Next Basket Recommendation

Yongjun Chen, Jia Li+5 more|arXiv (Cornell University)|Sep 23, 2021

Recommender Systems and Techniques参考文献 29被引用数 9

ひとこと要約

本稿では、次回のバスケットを予測するための新しい注意メカニズムを備えたAnDaを提案する。AnDaは、変化するユーザー収入や商品価格といった動的属性と、順序付けられたバスケット内相互作用を併せてモデル化することで、性能を向上させる。時間に依存する、周期的特性を考慮したエンコーダーを用いて動的属性を処理し、バスケット内でのアイテム関係を捉えるためのイントラバスケット注意モジュールを導入している。3つの実世界データセットにおいて、最先端手法を著しく上回り、Hit Rateは最大21.87%向上、NDCGは最大43.76%向上を達成した。

ABSTRACT

Traditional approaches to next item and next basket recommendation typically extract users' interests based on their past interactions and associated static contextual information (e.g. a user id or item category). However, extracted interests can be inaccurate and become obsolete. Dynamic attributes, such as user income changes, item price changes (etc.), change over time. Such dynamics can intrinsically reflect the evolution of users' interests. We argue that modeling such dynamic attributes can boost recommendation performance. However, properly integrating them into user interest models is challenging since attribute dynamics can be diverse such as time-interval aware, periodic patterns (etc.), and they represent users' behaviors from different perspectives, which can happen asynchronously with interactions. Besides dynamic attributes, items in each basket contain complex interdependencies which might be beneficial but nontrivial to effectively capture. To address these challenges, we propose a novel Attentive network to model Dynamic attributes (named AnDa). AnDa separately encodes dynamic attributes and basket item sequences. We design a periodic aware encoder to allow the model to capture various temporal patterns from dynamic attributes. To effectively learn useful item relationships, intra-basket attention module is proposed. Experimental results on three real-world datasets demonstrate that our method consistently outperforms the state-of-the-art.

研究の動機と目的

• 時間の経過に伴い変化するユーザーの関心を捉えるために、静的ユーザー属性やアイテム属性の限界を解消すること。
• 収入や会員タイプなどの動的属性に内在する多様な時間的パターン（時間間隔効果や周期的行動など）をモデル化すること。
• 単なる共起性やグローバルな注意メカニズムを超えて、バスケット内での複雑なアイテム間依存関係を効果的に学習すること。
• 次回のバスケット予測のため、動的属性とバスケット内相互作用を統合的に、安定的かつ表現力豊かに統合するフレームワークを構築すること。
• 動的属性をモデル化することで、静的属性に基づくベースライン手法に比べて一貫した性能向上が得られることを示すこと。

提案手法

• AnDaは二重エンコーダー構造を採用しており、動的属性とバスケット内アイテム系列のそれぞれに特化したエンコーダーを備え、分離されたが協調的な学習を可能にしている。
• 時間に依存するパディングと周期的インデックス埋め込みモジュールにより、動的属性が時間間隔に基づくパターンと周期的パターンの両方を捉えるようにエンコードされている。
• 各バスケットに対して適用されるイントラバスケット多頭注目（multi-head self-attention）モジュールにより、アイテム間の関係が異なるアイテムサブセットにおいてモデル化されている。
• 時間レベルでの多頭注目（multi-head self-attention）を用いて、履歴バスケットの重要度と新鮮さに基づき、動的に重み付けされている。
• 動的属性表現とアイテム系列表現をクロス注意メカニズムにより融合することで、文脈に応じたユーザー関心のモデル化が可能になっている。
• モデルはエンドツーエンドで学習され、シーケンス予測の目的関数に基づいて最適化されており、トップ-k推薦性能（HR, NDCG, MAP）を向上させることを目的としている。

実験結果

リサーチクエスチョン

• RQ1 収入や会員タイプといった動的属性をモデル化することで、静的属性に比べて次回のバスケット予測性能が向上するか？
• RQ2 動的属性に内在する時間的パターン（時間間隔や周期性など）は、ユーザーの購入行動予測にどのように影響を与えるか？
• RQ3 イントラバスケット注目モジュールは、共購入や機能的グループなど、将来のバスケット構成に影響を与える複雑なアイテム関係をどの程度効果的に捉えられるか？
• RQ4 動的属性とアイテムレベルの注目を統合した手法は、静的属性のみに依存するモデルや、グローバルなアイテム共起性に依存するモデルと比べて、どのように優れているか？
• RQ5 周期的エンコーダー、イントラバスケットモジュール、時間レベルの注目メカニズムといった各コンポONENTの、全体の推薦性能に対する寄与度はどの程度か？

主な発見

• EPRデータセットでは、最も強力なベースライン（FDSA+）に比べ、Hit Rate@5で21.87%の相対的向上を達成した。Ta-Fengでは15.06%、SPRでは24.53%の向上を示した。
• NDCG@5では、ベースライン比最大43.76%向上を達成した。特にSPRデータセットで43.76%の最大向上を記録した。
• MAPスコアは、SPRデータセットで24.53%向上、EPRデータセットで21.87%向上し、評価指標全体にわたる一貫した向上が確認された。
• アブレーションスタディの結果、周期的インデックス埋め込みを削除した場合（AnDa(P)）、平均スコアが1.42%低下した。これは、季節的パターンを捉える上でその有効性が確認されたことを示している。
• イントラバスケット注目モジュールは顕著な貢献を示した。これを削除した場合（AnDa(B-)）、平均スコアが1.89%低下した。これは、アイテム間関係の効果的なモデル化が実現されていることを裏付けている。
• 注目可視化の結果、モデルは意味のある注目パターンを学習していることが確認された。異なるヘッドが異なるアイテムペア（例：果物 vs. 電子機器）に注目しており、深層部では時間レベルの注目が最近のアイテムにシフトしている。