[論文レビュー] NISER: Normalized Item and Session Representations with Graph Neural Networks

Priyanka Gupta, D. Garg+3 more|arXiv (Cornell University)|Sep 10, 2019

Topic Modeling参考文献 10被引用数 26

ひとこと要約

本稿では、アイテムおよびセッショングラフ表現の正規化により人気バイアスを軽減するグラフニューラルネットワークベースのセッションベース推薦モデル、NISERを提案する。学習された埋め込みの大きさを制約することにより、長尾項目および新規導入項目における性能が顕著に向上し、3つのベンチマークデータセットにおいて最先端の手法を上回る性能を発揮する。

ABSTRACT

The goal of session-based recommendation (SR) models is to utilize the information from past actions (e.g. item/product clicks) in a session to recommend items that a user is likely to click next. Recently it has been shown that the sequence of item interactions in a session can be modeled as graph-structured data to better account for complex item transitions. Graph neural networks (GNNs) can learn useful representations for such session-graphs, and have been shown to improve over sequential models such as recurrent neural networks [14]. However, we note that these GNN-based recommendation models suffer from popularity bias: the models are biased towards recommending popular items, and fail to recommend relevant long-tail items (less popular or less frequent items). Therefore, these models perform poorly for the less popular new items arriving daily in a practical online setting. We demonstrate that this issue is, in part, related to the magnitude or norm of the learned item and session-graph representations (embedding vectors). We propose a training procedure that mitigates this issue by using normalized representations. The models using normalized item and session-graph representations perform significantly better: i. for the less popular long-tail items in the offline setting, and ii. for the less popular newly introduced items in the online setting. Furthermore, our approach significantly improves upon existing state-of-the-art on three benchmark datasets.

研究の動機と目的

• GNNベースのセッションベース推薦モデルにおける人気バイアスを是正すること。これは、人気のあるアイテムが頻度の低い長尾アイテムよりも優遇される傾向があるためである。
• 学習されたアイテムおよびセッショングラフ表現の大きさ（ノルム）がこのバイアスにどのように寄与するかを調査すること。
• これらの表現を正規化する訓練手順を開発し、人気の低いアイテムおよび新規導入アイテムに対する公平性と効果性を向上させること。
• オフライン評価における長尾アイテムおよびオンライン環境における新規導入アイテムの両方で、性能が向上することを実証すること。

提案手法

• 訓練中にアイテムおよびセッショングラフ埋め込みベクトルのL2ノルムを制約する正規化技術を導入する。
• グラフニューラルネットワークによって学習されるアイテムレベルおよびセッションレベルの表現の両方に正規化を適用する。
• 表現の大きさをバランスよく保つように訓練目的を修正し、頻度の高いアイテムによる優位性を低減する。
• グラフ畳み込みネットワークを用いて、セッション相互作用をグラフ構造データとして符号化し、下流の予測に正規化された埋め込みを用いる。
• 訓練の安定化と表現ノルムの多様性を促進するために、埋め込み空間に類似した正則化を採用する。
• 既存のGNNアーキテクチャと互換性を保ちつつ、最小限の計算オーバーヘッドで実装する。

実験結果

リサーチクエスチョン

• RQ1 学習されたアイテムおよびセッション表現のノルムが、GNNベースのセッション推薦における人気バイアスにどの程度寄与しているか。
• RQ2 これらの表現の大きさを正規化することで、長尾および新規導入アイテムの推薦パフォーマンスが向上するか。
• RQ3 全体の推薦精度および公平性の観点から、提案手法の正規化技術は最先端のモデルと比較してどのように差がつくか。
• RQ4 正規化戦略は、人気のあるアイテムのパフォーマンスを維持または向上させつつ、人気のないアイテムのパフォーマンスを顕著に向上させるか。

主な発見

• NISERは、オフライン評価において長尾アイテムの推薦パフォーマンスを顕著に向上させ、人気バイアスの低減が確認された。
• オンライン環境において新規導入アイテムのパフォーマンスが優れた結果を示し、コールドスタート状況への一般化能力が優れていることが示された。
• NISERは3つのベンチマークデータセットにおいて、既存の最先端手法を上回る性能を発揮し、多様な設定において有効性が確認された。
• アイテムおよびセッショングラフ表現の正規化により、パフォーマンスに損なわれることなく、よりバランスの取れた多様な推薦が可能になった。