[論文レビュー] Learning Recommender Systems from Multi-Behavior Data.

Chen Gao, Xiangnan He+6 more|arXiv (Cornell University)|Sep 21, 2018

Recommender Systems and Techniques参考文献 38被引用数 5

ひとこと要約

本稿では、クリック、閲覧、購入などの複数のユーザー行動の間の段階的依存関係をモデル化することで、それらを統合的に学習するニューラルマルチタスク推薦モデルNMTRを提案する。マルチタスク学習を活用して全行動を同時に最適化することで、特に疎な相互作用履歴を持つユーザーにおいても推薦品質が顕著に向上し、実世界のデータセットにおいて最先端の手法を上回る性能を発揮する。

ABSTRACT

Most existing recommender systems leverage user behavior data of one type only, such as the purchase behavior in E-commerce that is directly related to the business KPI (Key Performance Indicator) of conversion rate. Besides the key behavioral data, we argue that other forms of user behaviors also provide valuable signal, such as views, clicks, adding a product to shop carts and so on. They should be taken into account properly to provide quality recommendation for users. In this work, we contribute a new solution named NMTR (short for Neural Multi-Task Recommendation) for learning recommender systems from user multi-behavior data. We develop a neural network model to capture the complicated and multi-type interactions between users and items. In particular, our model accounts for the cascading relationship among different types of behaviors (e.g., a user must click on a product before purchasing it). To fully exploit the signal in the data of multiple types of behaviors, we perform a joint optimization based on the multi-task learning framework, where the optimization on a behavior is treated as a task. Extensive experiments on two real-world datasets demonstrate that NMTR significantly outperforms state-of-the-art recommender systems that are designed to learn from both single-behavior data and multi-behavior data. Further analysis shows that modeling multiple behaviors is particularly useful for providing recommendation for sparse users that have very few interactions.

研究の動機と目的

• 購入のみに依存する既存のレコメンデーションシステムの限界を是正すること。
• クリック、閲覧、カート追加などの複数のユーザー行動が、より良い推薦品質のための補完的シグナルを提供する方法を調査すること。
• 行動間の本質的な段階的関係（例：購入の前段階にクリックがある）を統合的なフレームワークでモデル化すること。
• より豊富な行動シグナルを活用することで、疎な相互作用履歴を持つユーザーの推薦パフォーマンスを向上させること。
• 多様な行動タイプのデータから同時に学習できる、マルチタスク学習を用いた統合最適化フレームワークを構築すること。

提案手法

• ユーザーとアイテム間の複数の行動タイプにわたる複雑な相互作用を捉えるニューラルネットワークアーキテクチャを設計すること。
• 行動の段階的依存関係（例：閲覧 → クリック → カート追加 → 購入）を、構造的な順序に配慮した設計でモデル化すること。
• マルチタスク学習フレームワーク内において、各行動タイプを別個のタスクとして扱い、関連性を保ちつつ統合最適化を可能にすること。
• タスク間で共有される表現を用いることで一般化性能を向上させるとともに、行動固有のパターンに合わせたタスク固有の適応を可能にすること。
• 全行動タイプからの監視信号を統合したユニフィード損失関数を用いて、エンドツーエンドの学習を実施すること。
• 注意メカニズムやシーケンスモデリングコンponentsを導入し、下流の行動を予測する際の、過去の行動の重要性を重みづけすること。

実験結果

リサーチクエスチョン

• RQ1 単一行動ベースラインと比較して、複数のユーザー行動を統合的にモデル化することは推薦パフォーマンスの向上に寄与するか？
• RQ2 行動間の段階的関係をモデル化することは、推薦の精度と耐性にどのような影響を及えるか？
• RQ3 多行動学習は、相互作用履歴が限られたユーザーの推薦にどの程度向上効果をもたらすか？
• RQ4 NMTRにおけるマルチタスク学習フレームワークは、単一タスクやヒューリスティックな多行動アプローチと比較して、より優れた一般化性能と表現学習を達成するか？
• RQ5 異なる行動シグナル（例：閲覧 vs. 購入）は、統合学習環境下で最終的な推薦品質にどの程度寄与するか？

主な発見

• NMTRは、単一行動または多行動データにのみ訓練された最先端のレコメンデーションシステムを顕著に上回る性能を発揮する。
• 密集したユーザー相互作用状況と疎なユーザー相互作用状況の両方で優れたパフォーマンスを達成しており、特に相互作用が少ないユーザーにおいて顕著な向上が見られる。
• 行動の段階的性質をモデル化することで、全行動タイプにおいてより優れた表現学習と予測精度が実現される。
• マルチタスク学習フレームワークにより、行動タイプ間での効果的な知識移転が可能となり、全体のシステムの耐性が向上する。
• 複数の行動を統合的に最適化することで、個別の行動ごとにモデルを訓練するのと比較して、より安定的かつ一般化可能な推薦が得られる。
• 2つの実世界データセットにおける実験結果から、NMTRが精度、再現率、NDCGといった主要な推薦指標を一貫して向上させることを確認した。