[論文レビュー] Distributed-Representation Based Hybrid Recommender System with Short Item Descriptions

Junhua He, Hankz Hankui Zhuo+1 more|arXiv (Cornell University)|Mar 15, 2017

Recommender Systems and Techniques参考文献 18被引用数 15

ひとこと要約

本稿では、短いアイテム説明の分散表現（word2vec）を活用して、レーティングデータが疎な状況下での協調フィルタリングを強化するハイブリッドレコメンデーションシステムであるRECFを提案する。行列分解に、ベクトル化された説明文から得られる意味的類似度を統合することで、RECFは特にデータが疎な状況下でも推薦精度を顕著に向上させ、SVD や TF-IDF もしくはバイナリ符号化を用いた CSVD といった最先端手法を上回る性能を発揮する。

ABSTRACT

Collaborative filtering (CF) aims to build a model from users' past behaviors and/or similar decisions made by other users, and use the model to recommend items for users. Despite of the success of previous collaborative filtering approaches, they are all based on the assumption that there are sufficient rating scores available for building high-quality recommendation models. In real world applications, however, it is often difficult to collect sufficient rating scores, especially when new items are introduced into the system, which makes the recommendation task challenging. We find that there are often "short" texts describing features of items, based on which we can approximate the similarity of items and make recommendation together with rating scores. In this paper we "borrow" the idea of vector representation of words to capture the information of short texts and embed it into a matrix factorization framework. We empirically show that our approach is effective by comparing it with state-of-the-art approaches.

研究の動機と目的

• レーティングデータが疎または不完全な状況下で協調フィルタリングの性能が著しく低下する問題に対処すること。
• 従来のCFで軽視されがちな短いアイテム説明が、推薦精度の向上に寄与するかどうかを検討すること。
• 分散表現を用いて短いテキスト説明からの意味情報を統合するハイブリッドレコメンデーションシステムを構築すること。
• 行列分解に基づく協調フィルタリングの性能向上に、アイテム説明のword2vecベースのベクトル表現が果たす効果を評価すること。
• レーティングデータと説明ベースの類似度の間のトレードオフを最適化し、過学習を防ぎ、収束性を向上させること。

提案手法

• 事前学習済みのword2vecモデルを用いて、短いアイテム説明を密なベクトル表現に変換し、意味的類似度を捉える。
• アイテム説明の平均化されたword2vecベクトルからなる記述行列Cを構築し、アイテム同士の意味的類似度を表現する。
• レーティング行列Rとラベル行列Lと組み合わせて、記述行列Cを行列分解フレームワークに統合し、統合的な目的関数を定式化する。
• 期待値最大化（EM）アルゴリズムを用いて、レーティング、ラベル、および説明ベースの類似度の寄与をバランスさせるハイブリッド目的関数を最適化する。
• トレードオフパラメータλCを動的に調整する：初期段階では正の値に設定して説明情報の統合を促進し、後続の反復で0に減少させることで過学習を回避し、最終的にはレーティングデータが優位になるようにする。
• 2段階の収束戦略を適用する：初期学習段階ではλCを有効にし、欠損レーティングの補完をガイドする。その後、λCを無効化して、レーティングおよびラベルデータに基づく予測の精練を実施する。

実験結果

リサーチクエスチョン

• RQ1 短いアイテム説明の分散表現は、データが疎な状況下での協調フィルタリングにおける推薦精度を向上させることができるか？
• RQ2 短い説明文からの意味的類似度統合が、伝統的なTF-IDFやバイナリ符号化と比較して、レーティングが疎な状況下でどのように効果を発揮するか？
• RQ3 学習プロセス中に、レーティングデータと説明ベースの類似度の最適な動的トレードオフは何か？
• RQ4 短く疎なアイテム説明において、頻度ベースの手法の限界をword2vec埋め込みが軽減できるか？
• RQ5 実世界のデータセット（レーティングが疎な状況）において、RECFフレームワークは最先端のハイブリッドレコメンデーションシステムと比較してどのように性能を発揮するか？

主な発見

• MovieLensおよびDoubanの両データセットにおいて、RECFはSVDやCSVDと比較してMAEおよびRMSEを顕著に低減しており、特にレーティングの疎らさが増すとその効果が顕著になる。
• Doubanデータセットでは説明がタグに限定されているが、TF-IDFやバイナリ符号化を用いたCSVDは性能が著しく低下するか、逆に性能が悪化するのに対し、RECFは意味的単語表現を活用することで高い精度を維持する。
• RECFの性能はデータの疎らさが増すにつれて向上する傾向を示しており、これはレーティングデータが不足する状況において、説明ベースの類似度がより価値ある情報源となることを示している。
• 2段階の最適化戦略（初期段階で記述行列Cを重視し、後続で無効化）により、収束性が向上し、過学習を回避することができ、最終的な推薦精度が向上した。
• λCを初期値から0に動的に調整することで、静的ベースラインと比較してMAEが15–20%改善され、ハイブリッドモデルにおける時間的重み付けの重要性が示された。
• 両データセットにおいて、RECFはCSVD+TFIDFおよびCSVD+Binaryを著しく上回り、短いテキストに対してword2vecベースの意味的モデリングが頻度ベースの手法よりも効果的であることが確認された。