[论文解读] Latent Factor Interpretations for Collaborative Filtering

Anupam Datta, Sophia Kovaleva+2 more|arXiv (Cornell University)|Nov 29, 2017

Recommender Systems and Techniques参考文献 15被引用 4

一句话总结

本文提出潜在因子解释（Lattice Factor Interpretation, LFI），通过学习从人类可理解的特征（如电影类型、IMDB 和 TV Tropes 中的关键词）到不可解释的潜在因子的映射，来解释协同过滤模型中的不可解释潜在因子。通过构建一个使用可解释输入预测潜在因子并复现原始模型预测结果的“影子模型”，LFI 使得现有解释技术（如输入影响度量）能够生成针对用户的、可解释的推荐解释，并在 MovieLens 数据集上验证了其高预测准确性。

ABSTRACT

Many machine learning systems utilize latent factors as internal representations for making predictions. Since these latent factors are largely uninterpreted, however, predictions made using them are opaque. Collaborative filtering via matrix factorization is a prime example of such an algorithm that uses uninterpreted latent features, and yet has seen widespread adoption for many recommendation tasks. We present Latent Factor Interpretation (LFI), a method for interpreting models by leveraging interpretations of latent factors in terms of human-understandable features. The interpretation of latent factors can then replace the uninterpreted latent factors, resulting in a new model that expresses predictions in terms of interpretable features. This new model can then be interpreted using recently developed model explanation techniques. In this paper we develop LFI for collaborative filtering based recommender systems. We illustrate the use of LFI interpretations on the MovieLens dataset, integrating auxiliary features from IMDB and DB tropes, and show that latent factors can be predicted with sufficient accuracy for replicating the predictions of the true model.

研究动机与目标

• 解决依赖不可解释潜在因子的协同过滤模型的不透明性问题。
• 开发一种方法，利用 IMDB 和 TV Tropes 等辅助数据源，将潜在因子映射到人类可理解的特征。
• 构建一个影子模型，使其在使用可解释输入进行解释的同时，保持原始模型的预测行为。
• 在影子模型上应用模型无关的解释技术——特别是输入影响度量——以生成用户特定的、可解释的解释。
• 验证从影子模型中得出的解释是否能有意义地反映原始潜在因子模型的决策过程。

提出的方法

• 训练预测器，将外部来源中的可解释特征（如类型、关键词、平均评分）映射到协同过滤模型中的项目潜在因子。
• 通过将学习到的可解释特征到潜在因子的映射与原始用户潜在因子及矩阵分解预测函数组合，构建‘影子模型’。
• 通过准确预测潜在因子和最终评分，确保影子模型复现原始模型的预测结果。
• 在影子模型上应用输入影响度量（如 Datta 等，2016）以识别对单个推荐最具影响力的可解释特征。
• 将影子模型中的影响分数用作原始模型预测的可解释解释，利用两模型之间的对应关系。
• 整合来自 IMDB 和 TV Tropes 的辅助数据，以丰富潜在因子预测的可解释特征空间。

实验结果

研究问题

• RQ1 能否利用外部来源的可解释特征准确预测协同过滤模型中的潜在因子？
• RQ2 由可解释特征和学习映射构建的影子模型是否能保持原始潜在因子模型的预测行为？
• RQ3 在影子模型上应用输入影响度量能否生成简洁、用户特定的推荐解释？
• RQ4 从影子模型中得出的解释在多大程度上反映了原始模型的实际决策过程？
• RQ5 该方法是否能在不损害推荐准确性的前提下缓解协同过滤模型中的可解释性差距？

主要发现

• 影子模型在预测项目潜在因子和最终推荐评分方面均表现出高准确性，表明其与原始模型具有强对应关系。
• 在影子模型中测量的可解释特征对推荐的影响，提供了简洁且有意义的解释，例如对《星际迷航》推荐的解释为“科幻类型”和“太空中的动作”。
• 该方法成功实现了对新项目或冷启动项目推荐的解释，通过利用辅助元数据，即使在缺乏用户评分的情况下也能实现。
• 用户研究表明，类型、关键词和平均评分等特征在推荐中最具影响力，这与模型中使用的可解释特征一致。
• 该方法优于先前方法，因为它学习了来自外部可解释特征的数据驱动映射，而非依赖手工设计或预定义的映射。
• 影子模型的解释被发现既准确又与用户相关，支持了其能有意义地解释原始模型行为的主张。