[論文レビュー] Explaining Latent Factor Models for Recommendation with Influence Functions

Weiyu Cheng, Yanyan Shen+2 more|arXiv (Cornell University)|Nov 20, 2018

Recommender Systems and Techniques参考文献 34被引用数 4

ひとこと要約

本稿では、行列分解やニューラルコラボラティブフィルタリングなどの潜在的要因モデル（LFMs）が補助データを必要とせずにネイバー風の説明を生成できるようにする、高速な影響分析手法FIAを提案する。ロバスト統計からの影響関数を活用することで、モデルの予測を形作る最も影響力のあるトレーニングレーティングを特定し、ベースライン手法と比較して最大2,411倍の高速化を達成しながら、解釈可能で使いやすい説明を提供する。

ABSTRACT

Latent factor models (LFMs) such as matrix factorization achieve the state-of-the-art performance among various Collaborative Filtering (CF) approaches for recommendation. Despite the high recommendation accuracy of LFMs, a critical issue to be resolved is the lack of explainability. Extensive efforts have been made in the literature to incorporate explainability into LFMs. However, they either rely on auxiliary information which may not be available in practice, or fail to provide easy-to-understand explanations. In this paper, we propose a fast influence analysis method named FIA, which successfully enforces explicit neighbor-style explanations to LFMs with the technique of influence functions stemmed from robust statistics. We first describe how to employ influence functions to LFMs to deliver neighbor-style explanations. Then we develop a novel influence computation algorithm for matrix factorization with high efficiency. We further extend it to the more general neural collaborative filtering and introduce an approximation algorithm to accelerate influence analysis over neural network models. Experimental results on real datasets demonstrate the correctness, efficiency and usefulness of our proposed method.

研究の動機と目的

• 最新の潜在的要因モデル（LFMs）である行列分解やニューラルコラボラティブフィルタリングにおける説明可能性の欠如に対処すること。
• ユーザーレビュー やアイテム特徴といった補助情報に依存しない汎用的な説明手法を開発すること。
• トレーニングレーティングのうち最も影響力のあるものを特定することで、ユーザーの過去の好みに類似するアイテムを提示するネイバー風の説明（例：「このアイテムは以前に高評価したものに似ています」）をLFMsに可能にすること。
• 実世界のレコメンデーションシステムに適した、高いスケーラビリティを備えた影響計算アルゴリズムの設計

提案手法

• FIAはロバスト統計における影響関数を用い、与えられたテスト用のユーザー・アイテムペアに対するモデル予測に、各トレーニングレーティング（ユーザー、アイテム、レーティング）がどの程度影響を与えているかを定量化する。
• 行列分解の場合、損失関数のヘッセ行列を用いて影響スコアの閉形式近似を導出し、反復的再トレーニングを必要とせずに効率的な計算を実現する。
• ニューラルコラボラティブフィルタリング（NCF）の場合、影響スコアを効率的に推定するための確率的近似法を採用し、計算コストを低減しながらも精度を維持する。
• ユーザーの履歴またはアイテムのレーティング履歴から、最も影響力のある上位k件のトレーニングレーティングを特定し、アイテムベースまたはユーザー基準の説明を生成する。
• 影響スコアは、トレーニング例を削除したときのモデル予測の勾配として計算され、予測への影響の正確な帰属づけを可能にする。
• アーキテクチャに依存しないアプローチであるため、MF や NCF などのさまざまな LFM のバリエーションに、アーキテクチャの変更なしに適用可能である。

実験結果

リサーチクエスチョン

• RQ1 影響関数は、レコメンデーションシステムにおける潜在的要因モデルに対して、ネイバー風の説明を効果的に生成するために適しているか？
• RQ2 大規模なレコメンデーションシステムにおける実用的導入に耐えるだけの計算効率を、影響分析が達成できるか？
• RQ3 FIAは、レビュー やアイテム特徴といった補助データに依存せずに、正確で直感的な説明を提供できるか？
• RQ4 トレーニング例の影響分布がモデル予測にどのように影響を与えるか、また、モデルの挙動に関する何らかの洞察を明らかにできるか？

主な発見

• 行列分解におけるFIAは、ベースラインの影響計算（IA）と比較して最大2,411倍の高速化を達成し、潜在的要因次元に関係なく5秒未満の実行時間で動作する。
• ニューラルコラボラティブフィルタリングでは、IAと比較して1,752倍の高速化を達成し、ディープラーニングベースのレコメンダに優れたスケーラビリティを示している。
• 影響スコアは非常に集中している：顕著に影響を与えるトレーニングレーティングはわずか少数（例：上位6件）に限られ、疎な影響パターンが示されている。
• アイテムベースの説明における最も影響力のあるレーティングは意味的に整合性がある—例えば『ライオン・キング（1994）』の場合、最も影響力のあるアイテムはアニメーションコメディであり、直感的な関連性を確認している。
• 影響値の分布はゼロを中心に集中しており、大多数のレーティングがほとんど影響を持たないことが示され、予測を決定づけるのはごく少数のレーティングに限られることがわかる。
• FIAは『この映画の評価を予測したのは、あなたが以前に高評価した類似のアイテムがあるからです』といった人間が読みやすいネイバー風の説明を効果的に生成している。