[論文レビュー] Graph Neural News Recommendation with Long-term and Short-term Interest Modeling

Linmei Hu, Chen Li+3 more|arXiv (Cornell University)|Oct 30, 2019

Recommender Systems and Techniques参考文献 32被引用数 12

ひとこと要約

この論文では、異種のユーザ-ニュース-トピックグラフを構築することで、ユーザの長期的および短期的関心を統合的にモデル化するGNNベースのニュースレコメンデーションモデル、GNewsRecを提案する。グラフ畳み込みネットワークを用いて高次のユーザ-アイテム相互作用を捉え、最近の閲覧行動を注目メカニズム付きLSTMで処理することで、実世界のデータセットにおいて最先端の手法を著しく上回り、AUCおよびF1指標でSOTA性能を達成する。

ABSTRACT

With the information explosion of news articles, personalized news recommendation has become important for users to quickly find news that they are interested in. Existing methods on news recommendation mainly include collaborative filtering methods which rely on direct user-item interactions and content based methods which characterize the content of user reading history. Although these methods have achieved good performances, they still suffer from data sparse problem, since most of them fail to extensively exploit high-order structure information (similar users tend to read similar news articles) in news recommendation systems. In this paper, we propose to build a heterogeneous graph to explicitly model the interactions among users, news and latent topics. The incorporated topic information would help indicate a user's interest and alleviate the sparsity of user-item interactions. Then we take advantage of graph neural networks to learn user and news representations that encode high-order structure information by propagating embeddings over the graph. The learned user embeddings with complete historic user clicks capture the users' long-term interests. We also consider a user's short-term interest using the recent reading history with an attention based LSTM model. Experimental results on real-world datasets show that our proposed model significantly outperforms state-of-the-art methods on news recommendation.

研究の動機と目的

• ユーザ、ニュース、トピックの間の高次の構造的関係を活用することで、ニュースレコメンデーションにおけるデータスパarsityを緩和すること。
• パーソナライズ化を向上させるために、長期的および短期的ユーザ関心を両方モデル化すること。
• 潜在的トピック情報をユーザ-アイテム相互作用のブリッジとして統合することで、コールドスタートおよびスパarsity問題を軽減すること。
• 協調フィルタリングとコンテンツベース信号をグラフニューラルネットワークを通じて統合する包括的なフレームワークを構築すること。

提案手法

• ユーザ、ニュース記事、潜在的トピックの間の相互作用を明示的にモデル化するため、異種のユーザ-ニュース-トピックグラフを構築する。
• グラフ畳み込みネットワーク（GCNs）を適用して、グラフ上で埋め込みを伝搬させ、ユーザおよびニュース表現における高次の構造的情報を捉える。
• GCNで学習されたユーザ埋め込みを用いて、完全なクリック履歴から長期的ユーザ関心を学習する。
• 最近のユーザクリックシーケンスに対して注目メカニズム付きLSTMを用いて短期的関心をモデル化する。
• 最終的なユーザ表現を得るため、長期的および短期的ユーザ埋め込みを要素ごとの連結または注目メカニズムで統合する。
• 結合されたユーザ埋め込みとニュース埋め込みの類似度スコアを用いて、候補ニュースの関連性を予測する。

実験結果

リサーチクエスチョン

• RQ1 長期的および短期的ユーザ関心を同時にモデル化することで、ニュースレコメンデーションのパフォーマンスがどのように向上するか？
• RQ2 トピック情報を統合することで、ユーザ-アイテム相互作用におけるデータスパarsityはどの程度軽減されるか？
• RQ3 グラフニューラルネットワークによって捉えられる高次の構造的情報は、ニュースレコメンデーションにどの程度寄与するか？
• RQ4 GNNレイヤー数や埋め込み次元などの異なるアーキテクチャ的要因は、モデルパフォーマンスにどのように影響するか？

主な発見

• GNewsRecは、Adressa-1weekデータセットにおいてAUC 81.16%、F1 82.85%というSOTA性能を達成し、すべてのベースラインを上回る。
• GNNモジュールを削除すると、AUCが5ポイント以上低下し、高次の構造的学習が果たす重要な役割が示された。
• 短期的関心モデルの除外により、AUCおよびF1ともに2%の低下が生じ、動的ユーザ嗜好の把握にその重要性が確認された。
• トピック情報の欠落は顕著なパフォーマンス低下を引き起こし、トピックがデータスパarsityおよびコールドスタート問題の緩和に効果的であることが示された。
• 最適なGNNの深さは2層であり、3層以上の深さではノイズが増加し、パフォーマンスが低下することがわかった。
• 最適な埋め込み次元は128であり、それ以上の次元では過学習およびノイズの増大によりパフォーマンスが低下した。