[論文レビュー] Latent Factor Interpretations for Collaborative Filtering

Anupam Datta, Sophia Kovaleva+2 more|arXiv (Cornell University)|Nov 29, 2017

Recommender Systems and Techniques参考文献 15被引用数 4

ひとこと要約

本稿では、人間が理解可能な特徴（例：映画のジャンル、IMDB や TV Tropes のキーワード）からこれらの潜在要因へのマッピングを学習することで、協調フィルタリングモデルにおける解釈不能な潜在要因を解釈する手法である潜在要因解釈法（LFI）を紹介する。元のモデルの予測を再現する人間が理解可能な入力を使用する「シャドウモデル」を構築することで、入力影響度測定法などの既存の説明技術を活用し、ユーザー固有の解釈可能な説明を生成できる。この手法は、MovieLens データセットを用いて高い予測精度で検証された。

ABSTRACT

Many machine learning systems utilize latent factors as internal representations for making predictions. Since these latent factors are largely uninterpreted, however, predictions made using them are opaque. Collaborative filtering via matrix factorization is a prime example of such an algorithm that uses uninterpreted latent features, and yet has seen widespread adoption for many recommendation tasks. We present Latent Factor Interpretation (LFI), a method for interpreting models by leveraging interpretations of latent factors in terms of human-understandable features. The interpretation of latent factors can then replace the uninterpreted latent factors, resulting in a new model that expresses predictions in terms of interpretable features. This new model can then be interpreted using recently developed model explanation techniques. In this paper we develop LFI for collaborative filtering based recommender systems. We illustrate the use of LFI interpretations on the MovieLens dataset, integrating auxiliary features from IMDB and DB tropes, and show that latent factors can be predicted with sufficient accuracy for replicating the predictions of the true model.

研究の動機と目的

• 解釈不能な潜在要因に依存する協調フィルタリングモデルの不透明性に対処すること。
• IMDB や TV Tropes などの補助データソースを用いて、潜在要因を人間が理解可能な特徴にマッピングする手法を開発すること。
• 解釈可能な入力を使用しながらも元のモデルの予測行動を保持するシャドウモデルを構築すること。
• モデルに依存しない説明技術（特に入力影響度測定法）をシャドウモデルに適用し、ユーザー固有の解釈可能な説明を生成すること。
• シャドウモデルから得られる解釈が、元の潜在要因モデルの意思決定プロセスを意味的に反映しているかどうかを検証すること。

提案手法

• 外部ソースからの解釈可能な特徴（例：ジャンル、キーワード、平均評価）を、協調フィルタリングモデル内のアイテムの潜在要因にマッピングする予測子を学習する。
• 学習済みの解釈可能な特徴から潜在要因へのマッピングと元のユーザー潜在要因、行列分解予測関数を組み合わせることで「シャドウモデル」を構築する。
• シャドウモデルが元のモデルの予測を正確に再現できるように、潜在要因と最終的なスコアの両方を的確に予測するように保証する。
• シャドウモデルに、Datta ら（2016）らの入力影響度測定法などの影響度測定法を適用し、個々の推薦に最も影響を与える解釈可能な特徴を同定する。
• シャドウモデルの影響度スコアを、元のモデルの予測に対する解釈可能な説明として活用し、モデル間の対応関係を活かす。
• IMDB や TV Tropes からの補助データを統合し、潜在要因予測のための解釈可能な特徴空間を豊かにする。

実験結果

リサーチクエスチョン

• RQ1 外部ソースからの解釈可能な特徴を用いて、協調フィルタリングモデル内の潜在要因を正確に予測できるか？
• RQ2 解釈可能な特徴と学習済みマッピングから構築されたシャドウモデルは、元の潜在要因モデルの予測行動を保持するか？
• RQ3 シャドウモデルに適用された入力影響度測定法は、短く的確でユーザー固有の推薦説明を生成できるか？
• RQ4 シャドウモデルから得られる説明は、元のモデルの実際の意思決定プロセスをどの程度反映しているか？
• RQ5 このアプローチは、推薦精度を損なうことなく、協調フィルタリングにおける解釈性のギャップを軽減できるか？

主な発見

• シャドウモデルは、アイテムの潜在要因と最終的な推薦スコアの両方を高い精度で予測し、元のモデルと強い対応関係を示した。
• シャドウモデルで測定された解釈可能な特徴の影響度は、短く意味のある説明を提供した。たとえば、「SFジャンル」や「宇宙でのアクション」といった特徴は、『スタートレック』の推薦に対して有効であった。
• 本手法により、ユーザーの評価がなくとも、補助メタデータを活用することで新規またはコールドスタートのアイテムに対しても説明が可能になった。
• ユーザースタディの結果、ジャンル、キーワード、平均評価といった特徴が推薦において最も影響力があることが示され、モデルで使用された解釈可能な特徴と整合的であった。
• 本手法は、手作業で定義されたマッピングに依存するのではなく、外部の解釈可能な特徴からデータ駆動でマッピングを学習する点で、先行手法を上回った。
• シャドウモデルの説明は、正確かつユーザーにとって関連性があることが判明し、元のモデルの行動を意味的に解釈できることを裏付けた。