[論文レビュー] Generation Meets Recommendation: Proposing Novel Items for Groups of Users

Vinh Vo Thanh, Harold Soh|arXiv (Cornell University)|Aug 2, 2018

Computational and Text Analysis Methods被引用数 7

ひとこと要約

本稿では、ユーザーの嗜好とアイテム特徴を統合的に活用することで、共同変分オートエンコーダ（VAE）を用いた深層生成モデルを用いて、共通の低次元潜在空間を学習し、個々のユーザー集団に適合した新規で望ましいアイテムを生成する統合フレームワークを提案する。この潜在空間においてグリーディー加重最大被覆アルゴリズムを用い、K個の高被覆率・新規性の高いアイテム候補を同時に特定する。Movielens Tag Genomeなどの合成データおよび実世界のデータセットで強く優れた性能を示し、生成された映画「ゲノム」は多様で大規模なユーザー層から高い評価を得た。

ABSTRACT

Consider a movie studio aiming to produce a set of new movies for summer release: What types of movies it should produce? Who would the movies appeal to? How many movies should it make? Similar issues are encountered by a variety of organizations, e.g., mobile-phone manufacturers and online magazines, who have to create new (non-existent) items to satisfy groups of users with different preferences. In this paper, we present a joint problem formalization of these interrelated issues, and propose generative methods that address these questions simultaneously. Specifically, we leverage the latent space obtained by training a deep generative model---the Variational Autoencoder (VAE)---via a loss function that incorporates both rating performance and item reconstruction terms. We then apply a greedy search algorithm that utilizes this learned latent space to jointly obtain K plausible new items, and user groups that would find the items appealing. An evaluation of our methods on a synthetic dataset indicates that our approach is able to generate novel items similar to highly-desirable unobserved items. As case studies on real-world data, we applied our method on the MART abstract art and Movielens Tag Genome dataset, which resulted in promising results: small and diverse sets of novel items.

研究の動機と目的

• 既存の推薦システムが現在存在するアイテムに限られているというギャップを埋めるために、ユーザー集団に適合した新規で存在しないアイテムを生成するフレームワークを提案すること。
• 低次元の潜在空間における最大被覆問題の変種として、一括して新規アイテム生成とユーザー集団ターゲティングを形式化すること。
• レーティングデータとアイテム特徴の両方を活用して、現実的で高評価の新規アイテムを生成するデータ駆動型の生成アプローチを開発すること。
• 合成データおよび実世界のデータセット（例：Movielens Tag Genome、MART抽象芸術）でこの手法を評価し、多様で高被覆率のアイテム候補を生成できるかを実証すること。
• 創造的および製造分野における知能的なアイテム提案に、深層生成モデルを用いる可能性と有効性を検討すること。

提案手法

• ユーザー・アイテムレーティングとアイテム特徴の両方を用いてトレーニングされた共同変分オートエンコーダ（VAE）を活用し、共通の低次元潜在空間を学習すること。
• エンコーダを用いて既存のアイテムを潜在空間にマッピングし、デコーダを用いて潜在ベクトルからアイテム特徴を再構成することで、新規アイテムの生成を可能にすること。
• 学習済みの潜在空間においてグリーディー加重最大被覆アルゴリズムを適用し、予測されたユーザー被覆率を最大化するK個の新規アイテムを同時に選択すること。
• 最適化を制約付き問題として定式化し、各候補アイテムがどの程度のユーザー集団に魅力的であるかを予測することで、被覆率（閾値τ以上にレーティングするユーザー数）を定義すること。
• VAEトレーニング中に、レーティング再構成とアイテム特徴再構成の両方を組み合わせたハイブリッド損失関数を用い、ユーザーの好みとアイテムのコンテンツ忠実度を両立させること。
• 線形モデルと深層生成モデルの両方を検討し、合成実験において深層モデルが理想的で欠落しているアイテムをより優れた忠実度で再構成することを確認した。

実験結果

リサーチクエスチョン

• RQ1 深層生成モデルは、新規アイテム生成のためのユーザー嗜好とアイテムコンテンツを捉える共通の潜在空間を効果的に学習できるか？
• RQ2 学習済みの潜在空間におけるグリーディー最大被覆アルゴリズムは、大規模で多様なユーザー集団に魅力的なK個の新規アイテムを効果的に特定できるか？
• RQ3 合成環境下で、深層生成モデルの性能は線形モデルに比べ、高評価で未観測のアイテムをどれほど正確に再構成できるか？
• RQ4 提案手法は、Movielens Tag Genome や MART 抽象芸術などの実世界データセットで、現実的で多様かつ高評価の新規アイテムを生成できるか？
• RQ5 本フレームワークにおける主な設計的トレードオフや感度（例：閾値τや離散化の影響）は何か？

主な発見

• 合成データセットでは、深層生成モデルが線形モデルに比べて、欠落していた理想的なアイテムをより高い忠実度で再構成し、ユーザー空間全体の被覆率が向上した。
• 生成された映画ゲノムの上位1件（GM-1）は、予測された被覆率が84％に達し、広範なユーザー層に強い魅力を示した。
• 5件の生成された映画ゲノムのセットは、合計で94％の予測被覆率を達成し、それぞれが以前にカバーされていなかったユーザー層をカバーした。
• 生成された映画ゲノムは多様で直感的であった：GM-1は感傷的なドラマ、GM-2は暗いユーモアを含む社会的批評、GM-3は大作SFアクション映画であった。
• 上位で生成されたアイテムの分析から、「見事な脚本」「メンター」「物語」などの共通の高影響タグが繰り返し出現し、高評価映画の共通の特徴を示唆した。
• 本手法は、集合サイズの変化に対して頑健であり、閾値τや離散化の感度にも対応しており、パrameter制御可能なインタラクティブなブレインストーミングの可能性を示した。