[論文レビュー] Context-aware Sequential Recommendation

Qiang Liu, Shu Wu+3 more|arXiv (Cornell University)|Sep 19, 2016

Recommender Systems and Techniques参考文献 13被引用数 23

ひとこと要約

本稿では、時刻、場所、行動間隔などの文脈的要因に基づいて入力行列および遷移行列を動的に適応させる、文脈に配慮した再帰的ニューラルネットワーク（CA-RNN）を提案する。このモデルは、TaobaoおよびMovielens-1Mデータセットにおいて、最先端の手法を大きく上回る性能向上を達成した。

ABSTRACT

Since sequential information plays an important role in modeling user behaviors, various sequential recommendation methods have been proposed. Methods based on Markov assumption are widely-used, but independently combine several most recent components. Recently, Recurrent Neural Networks (RNN) based methods have been successfully applied in several sequential modeling tasks. However, for real-world applications, these methods have difficulty in modeling the contextual information, which has been proved to be very important for behavior modeling. In this paper, we propose a novel model, named Context-Aware Recurrent Neural Networks (CA-RNN). Instead of using the constant input matrix and transition matrix in conventional RNN models, CA-RNN employs adaptive context-specific input matrices and adaptive context-specific transition matrices. The adaptive context-specific input matrices capture external situations where user behaviors happen, such as time, location, weather and so on. And the adaptive context-specific transition matrices capture how lengths of time intervals between adjacent behaviors in historical sequences affect the transition of global sequential features. Experimental results show that the proposed CA-RNN model yields significant improvements over state-of-the-art sequential recommendation methods and context-aware recommendation methods on two public datasets, i.e., the Taobao dataset and the Movielens-1M dataset.

研究の動機と目的

• 現行の順序付き推薦モデルが現実世界のユーザー行動から豊富な文脈的情報を捉えることの限界を解決すること。
• 入力文脈（時刻や場所などの外部要因）と遷移文脈（連続する行動間の時間間隔）の2種類の文脈を特定し、モデル化すること。
• 両方の文脈タイプを再帰的ニューラルネットワークアーキテクチャに統合する包括的なフレームワークを構築すること。
• 入力文脈と遷移文脈を同時にモデル化することで、単一の文脈タイプのみを考慮するモデルと比較して優れた性能が得られることを示すこと。

提案手法

• 時刻、場所、天候などの外部状況要因に応じて変化する、文脈に特化した可変入力行列に、従来のRNNにおける固定入力行列を置き換える。
• 連続するユーザー行動間の時間間隔に基づいて適応する文脈特化型遷移行列を導入し、時間依存の遷移ダイナミクスを捉える。
• ユーザーの好み予測における順位付け性能を最大化するために、ベイジアンパーソナライズドランク（BPR）を最適化に用いる。
• バックプロパゲーションスルータイム（BPTT）を適用して、文脈に配慮した表現の勾配ベース学習を可能にするエンドツーエンドの学習を実施する。
• 入力文脈と遷移文脈が別々の適応行列メカニズムを通じて明示的にモデル化されるモジュラーなアーキテクチャを設計する。
• 各文脈タイプの寄与を分離するために、CA-RNN-inputおよびCA-RNN-transitionの変種を用いたアブレーションスタディを実施する。

実験結果

リサーチクエスチョン

• RQ1 時刻、場所、天候などの入力文脈は、順序付き推薦におけるユーザー行動予測にどのように影響を与えるか？
• RQ2 連続する行動間の時間間隔として定義される遷移文脈は、順序依存性のモデル化にどの程度影響を与えるか？
• RQ3 統合されたRNNベースのモデルは、入力文脈と遷移文脈の両方を効果的に統合し、推薦精度を向上させることができるか？
• RQ4 CA-RNNは、最先端の順序付きおよび文脈に配慮した推薦モデルと比較して、どの程度の性能を示すか？
• RQ5 文脈に配慮したRNNフレームワークにおける学習済み表現の最適次元は何か？

主な発見

• CA-RNNは最先端の順序付き推薦モデルを著しく上回り、RNNと比較してTaobaoデータセットにおけるRecall@1で91.8%の相対的改善を達成した。
• Movielens-1Mデータセットでは、CA-RNNはRecall@1で19.1%、NDCGで9.5%の相対的改善を示し、複数の指標で一貫した向上を確認した。
• RNNと比較して、TaobaoデータセットではMAPで60.4%、NDCGで31.5%の相対的改善を達成し、順位付け性能の優位性を示した。
• TaobaoデータセットではCA-RNN-inputがCA-RNN-transitionを上回ったが、Movielens-1Mでは逆にCA-RNN-transitionが優れた性能を示し、文脈タイプの効果がデータ特性に依存することを示した。
• 埋め込み次元が変化しても一貫して高い性能を維持し、Taobaoではd=20、Movielens-1Mではd=10で最適性能を達成した。これはハイパーパrameter設定に対して高いロバストネスを示している。
• 最適でない次元設定下でも、CA-RNNは従来のRNNを常に上回る性能を示しており、表現学習における文脈に配慮した適応の価値を裏付けた。