[論文レビュー] Controllable Multi-Interest Framework for Recommendation

Yukuo Cen, Jianwei Zhang+4 more|arXiv (Cornell University)|May 19, 2020

Recommender Systems and Techniques参考文献 61被引用数 16

ひとこと要約

本論文では、ユーザー行動履歴から複数のユーザーの関心をマルチインテリジェンスモジュールを用いて捉え、制御可能な集約モジュールにより精度と多様性のバランスを図る、制御可能なマルチインテリジェンスフレームワークであるComiRecを提案する。アリババで展開されたインダストリアルスケールのデータセット上で評価した結果、SOTAモデルのMINDと比較して、Recall@50が8.65%向上した。

ABSTRACT

Recently, neural networks have been widely used in e-commerce recommender systems, owing to the rapid development of deep learning. We formalize the recommender system as a sequential recommendation problem, intending to predict the next items that the user might be interacted with. Recent works usually give an overall embedding from a user's behavior sequence. However, a unified user embedding cannot reflect the user's multiple interests during a period. In this paper, we propose a novel controllable multi-interest framework for the sequential recommendation, called ComiRec. Our multi-interest module captures multiple interests from user behavior sequences, which can be exploited for retrieving candidate items from the large-scale item pool. These items are then fed into an aggregation module to obtain the overall recommendation. The aggregation module leverages a controllable factor to balance the recommendation accuracy and diversity. We conduct experiments for the sequential recommendation on two real-world datasets, Amazon and Taobao. Experimental results demonstrate that our framework achieves significant improvements over state-of-the-art models. Our framework has also been successfully deployed on the offline Alibaba distributed cloud platform.

研究の動機と目的

• 一様なユーザー埋め込み表現が、順序付きユーザー行動から複数の並列した関心を捉えることの限界を解消すること。
• 制御可能なメカニズムを用いて、推薦の精度と多様性のバランスをとるフレームワークを設計すること。
• 複数の学習済みユーザー関心を用いて、大規模なアイテムプールからの効果的な候補アイテム検索を可能にすること。
• 実世界のインダストリアルデプロイメント環境におけるフレームワークの有効性と効率性を検証すること。

提案手法

• マルチインテリジェンスモジュールは、自己注意機構を用いてユーザーの順序付き行動履歴から複数の関心埋め込みを抽出する。
• 各関心埋め込みは、高速な近似最近傍探索法（例：Faiss）を用いて、大規模なアイテムプールから上位N件の候補アイテムを独立して取得する。
• 集約モジュールは、学習可能な制御要因λを用いて、すべての関心からのアイテムを統合し、精度と多様性のバランスを取る。
• 制御要因λは、異なる関心からの寄与度を重みづけすることで、再帰率（精度）と多様性のトレードオフを動的に調整する。
• モデルはトレーニング中にアイテムIDのみを用いるため、手動によるカテゴリラベルに依存せず、エンドツーエンドの学習が可能である。
• モデルはエンドツーエンドで学習され、アリババの分散クラウドプラットフォーム上でオフライン評価のためのデプロイが行われた。

実験結果

リサーチクエスチョン

• RQ1 深層学習フレームワークは、順序付き行動シーケンスから複数の並列したユーザー関心を効果的に捉えることができるか？
• RQ2 統一された推薦フレームワークにおいて、推薦の精度と多様性のトレードオフをどのように制御できるか？
• RQ3 制御可能な集約モジュールは、大規模インダストリアルデータセット上でパフォーマンスを損なわず、再帰率と多様性の両方を向上させることができるか？
• RQ4 明示的なカテゴリラベルを用いない場合、モデルは意味的に意味のあるアイテムカテゴリや関心をどれだけ適切に学習できるか？

主な発見

• ComiRec-DRは、インダストリアルなタオバオデータセット上で、SOTAモデルのMINDと比較してRecall@50が8.65%向上した。
• ComiRec-SAは、同じインダストリアルデータセット上でMINDと比較してRecall@50が1.39%向上した。
• 制御要因λが増加するにつれて、推薦の多様性が顕著に向上した一方で、再帰率はわずかに低下したため、精度と多様性のトレードオフを効果的に制御できていることが示された。
• モデルは、カテゴリラベルを一切使用せずに、アイテムIDの入力のみから、スイーツ、ギフトボックス、スマホケース、アクセサリーといった4つの明確に分離されたユーザー関心を学習した。
• フレームワークはアリババの分散クラウドプラットフォームに正常にデプロイされ、10億スケールのデータセット（1.45億ユーザー、43億の相互作用）において高い効率性とスケーラビリティを示した。
• ケーススタディの結果、学習された各関心埋め込みが一貫したアイテムカテゴリに対応しており、大規模なアイテムプールから意味的に関連性のあるアイテムを効果的に検索できていることが確認された。