[論文レビュー] Hybrid Deep-Semantic Matrix Factorization for Tag-Aware Personalized Recommendation

Zhenghua Xu, Cheng Chen+2 more|arXiv (Cornell University)|Aug 12, 2017

Recommender Systems and Techniques参考文献 15被引用数 3

ひとこと要約

本稿では、再構成誤差と行列因子分解誤差を同時に最適化するハイブリッド学習信号を用いて、深層的意味表現学習と行列因子分解を統合する新規モデル、Hybrid Deep-Semantic Matrix Factorization (HDMF) を提案する。HDMF は最先端のベースラインを著しく上回り、タグに配慮したパーソナライズドレコメンデーションにおいて、最高のベースラインである DSPR よりも 1.52 倍高い平均逆順位（MRR）と 1.66 倍高い平均平均精度（MAP）を達成した。

ABSTRACT

Matrix factorization has now become a dominant solution for personalized recommendation on the Social Web. To alleviate the cold start problem, previous approaches have incorporated various additional sources of information into traditional matrix factorization models. These upgraded models, however, achieve only "marginal" enhancements on the performance of personalized recommendation. Therefore, inspired by the recent development of deep-semantic modeling, we propose a hybrid deep-semantic matrix factorization (HDMF) model to further improve the performance of tag-aware personalized recommendation by integrating the techniques of deep-semantic modeling, hybrid learning, and matrix factorization. Experimental results show that HDMF significantly outperforms the state-of-the-art baselines in tag-aware personalized recommendation, in terms of all evaluation metrics, e.g., its mean reciprocal rank (resp., mean average precision) is 1.52 (resp., 1.66) times as high as that of the best baseline.

研究の動機と目的

• 既存のタグに配慮したレコメンデーションモデルの限界、特に深層的意味表現モデルにおける最適化の悪さと、追加情報に基づく行列因子分解（AMF）モデルにおける性能向上の限界を解消すること。
• ソーシャルタグをユーザーおよびアイテム表現の主要な情報源として効果的に活用することで、行列因子分解におけるコールドスタート問題を克服すること。
• 深層的意味表現学習により、行列因子分解における分解されたユーザーおよびアイテム行列を意味的に意味のあるものにすることで、モデルの解釈性を向上させること。
• 再構成誤差と行列因子分解誤差を組み合わせたハイブリッド学習信号を導入することで、最適化と一般化性能を向上させること。
• AMF モデルがタグ情報を弱い正則化項としてのみ使用するのとは異なり、タグ情報の最適化プロセスへの寄与を最大化することで、優れたレコメンデーション性能を達成すること。

提案手法

• HDMF は、タグベースのユーザーおよびアイテム行列を処理する2つの深層オートエンコーダーを用い、コード層で深層的意味表現を学習し、出力層で元の行列を再構成する。
• モデルは、入力行列と出力行列の差（再構成誤差）と、深層的意味表現行列から導出された予測されたユーザー・アイテム評価と実際の評価の差（行列因子分解誤差）の両方を最小化するハイブリッド学習信号を用いて訓練される。
• ユーザーおよびアイテムの潜在的要因は、オートエンコーダーのコード層表現から得られ、それらをドット積で計算することでユーザー・アイテム評価を予測し、行列因子分解の核となる。
• ハイブリッド損失関数により、勾配の流れが改善され、局所的最小値から脱出でき、最適化の安定性が向上する。
• モデルは解釈可能である。なぜなら、各次元の深層的意味表現行列に対して最も影響力のある入力タグを特定できるため、潜在的要因の意味的解釈が可能になる。
• AMF モデルとは異なり、HDMF はタグ情報を分解されたユーザーおよびアイテム行列に直接組み込み、最適化への影響を最大化している。

実験結果

リサーチクエスチョン

• RQ1 深層的意味表現モデリングと行列因子分解を効果的に統合することで、タグに配慮したパーソナライズドレコメンデーションが向上するか？
• RQ2 再構成誤差と行列因子分解誤差を組み合わせたハイブリッド学習信号は、単一目的の学習に比べて、より優れた最適化と性能をもたらすか？
• RQ3 HDMF の深層的意味表現行列は、各次元ごとの重要な入力タグを特定することで解釈可能にできるか。これにより、従来の行列因子分解の解釈不能性を克服できるか？
• RQ4 HDMF は、DSPR や AMF の変種といった最先端モデルと比較して、さまざまな評価指標において、レコメンデーションの正確性と頑健性に優れているか？
• RQ5 行列因子分解による協調フィルタリング信号の統合は、コールドスタート状況における深層的意味表現モデルの性能をどの程度向上させるか？

主な発見

• HDMF は、Delicious データセットにおいて、P@k、R@k、F@k、MAP、MRR のすべての評価指標で、7つのベースラインを著しく上回った。
• HDMF の平均逆順位（MRR）は、最高のベースラインである DSPR よりも 1.52 倍高く、平均平均精度（MAP）は 1.66 倍高い。
• HDMF と DSPR の相対的な性能向上は、カットオフランク k が増加するにつれて拡大し、k=50 の時点で P@k で2倍以上の改善が見られた。これは、長いレコメンデーションリストにおける優れた性能を示している。
• 標準的な行列因子分解モデル（MF）と比較して、HDMF は MAP を約 70%、MRR を約 130% 向上させた。これは、タグ統合の有効性に起因する顕著な性能向上を示している。
• MF_sf や MF_tc のような AMF モデルでは、MAP と MRR でそれぞれ 2.4% と 6.8% のわずかな向上にとどまるのに対し、HDMF は顕著な向上を示しており、分解された行列にタグ情報を直接モデル化する戦略の優位性が裏付けられた。
• ハイブリッド学習信号により、最適化と勾配の流れが改善され、HDMF は局所的最小値から脱出でき、単一目的の学習に依存するモデルと比較して優れた収束性を示した。