[論文レビュー] Augmenting the User-Item Graph with Textual Similarity Models

Federico López, Martin Scholz+4 more|arXiv (Cornell University)|Sep 20, 2021

Recommender Systems and Techniques被引用数 1

ひとこと要約

本稿では、製品の説明文やレビューに適用された事前学習済みテキスト類似度モデルを用いて得られる意味的関係を統合することで、ユーザー・アイテムグラフを拡張する非教師ありデータ拡張手法を提案する。この手法は、さまざまなモデルや幾何構造において推薦性能を向上させ、特にコールドスタート状況で顕著な向上を示し、グラフの密度を向上させることでハイパボリック空間におけるより良い表現を可能にし、最先端の結果を達成する。

ABSTRACT

This paper introduces a simple and effective form of data augmentation for recommender systems. A paraphrase similarity model is applied to widely available textual data, such as reviews and product descriptions, yielding new semantic relations that are added to the user-item graph. This increases the density of the graph without needing further labeled data. The data augmentation is evaluated on a variety of recommendation algorithms, using Euclidean, hyperbolic, and complex spaces, and over three categories of Amazon product reviews with differing characteristics. Results show that the data augmentation technique provides significant improvements to all types of models, with the most pronounced gains for knowledge graph-based recommenders, particularly in cold-start settings, leading to state-of-the-art performance.

研究の動機と目的

• ユーザー・アイテム相互作用グラフのスパarsityを緩和し、製品の説明文やレビューから得られる意味的関係を統合することで、推薦システムにおけるコールドスタート問題を解決すること。
• 事前学習済み言語モデルを用いて意味的関係を明示的に統合することで、計算コストを増加させることなくモデルの一般化性能が向上するかどうかを検証すること。
• この拡張手法が、さまざまな推薦モデルおよび幾何空間（ユークリッド空間、ハイパボリック空間、複素空間）において有効であるかどうかを評価すること。
• 拡張されたグラフの構造的性質が、より良い表現と性能を実現するためのハイパボリック幾何構造を好むかどうかを分析すること。
• 製品の説明文やレビューなど、どのテキスト入力が関係抽出に最も効果的であるかを特定すること。

提案手法

• 製品の説明文やレビューなどのアイテムレベルのテキストデータに対して、事前学習済みの並べ替え類似度モデル（例：SBERT）を適用し、アイテム間の意味的類似度スコアを計算する。
• これらの類似度スコアを用いて、ユーザー・アイテム相互作用グラフに新たなエッジを追加し、明示的な意味的関係を持つマルチリレーションナライズド知識グラフを構築する。
• ラベル付きデータを必要とせず、モデルアーキテクチャの変更なしに、これらの新しい関係をグラフに統合する。
• ユークリッド空間、ハイパボリック空間、複素空間における知識グラフベースの手法を含む、さまざまな推薦モデルを用いて拡張グラフの性能を評価する。
• 局所的およびグローバルな幾何的測度（例：クラスタリング係数、最短経路、曲率）を用いて、グラフの構造的分析を行い、ハイパボリック埋め込みに適した性質があるかどうかを評価する。
• アブレーションスタディを実施し、とくにコールドスタートや低データ環境下における性能に与える拡張関係の影響を分離して分析する。

実験結果

リサーチクエスチョン

• RQ1 RQ1: 製品の説明文やレビューから得られる意味的関係を統合することで、さまざまなモデルアーキテクチャにおいて推薦性能が向上するか？
• RQ2 RQ2: このデータ拡張手法は、マルチリレーションナライズド知識グラフを明示的に設計されていないモデルに対しても性能を向上させるか？
• RQ3 RQ3: コールドスタート状況、特に相互作用がスパースな新規ユーザーまたは新規アイテムにおいて、この拡張が性能にどのように影響するか？
• RQ4 RQ4: 製品の説明文とレビューのどちらのテキスト入力が、推薦に向けたより効果的な意味的関係を生成するか？
• RQ5 RQ5: 拡張されたグラフの構造的性質は、ユークリッド空間や複素空間と比較してハイパボリック幾何構造を好む傾向を示しているか？

主な発見

• 提案手法によるデータ拡張は、すべてのテスト対象モデルにおいて推薦性能を顕著に向上させ、特にコールドスタート状況で最大の向上を示し、最先端の結果を達成する。
• 拡張されたグラフは、より高いクラスタリング係数と短い平均経路長を示しており、ハイパボリック性が強く、階層的構造がハイパボリック埋め込みに適していることが裏付けられている。
• 知識グラフベースの推薦モデルは、特にハイパボリック空間と組み合わせることで最も大きな恩恵を受けており、従来のKGベース推薦モデルおよび非KGベースの最先端モデルを上回る性能を発揮する。
• 製品の説明文のみでさえ、情報密度と性能向上の観点から、レビューを上回る高い有効性を持つ意味的関係を生成できる。
• 本手法はアーキテクチャに依存しない：マルチリレーションナライズド知識グラフをネイティブにサポートしないモデルに対しても、性能向上を実現する。
• ハイパボリック空間は、拡張されたグラフの解釈可能性を高めるとともに、次元数の低い表現を可能にし、グラフの階層的構造が顕著になるほど性能向上が顕著になる。