[论文解读] Recommender systems inspired by the structure of quantum theory

Cyril Stark|arXiv (Cornell University)|Jan 22, 2016

Advanced Bandit Algorithms Research参考文献 64被引用 5

一句话总结

本文通过利用量子理论的数学结构，将用户偏好和物品特征表示为正定矩阵，提出了一种受量子启发的推荐系统模型。实验表明，该量子模型在MovieLens数据集上的预测性能可与SVD++和PureSVD等最先进方法相媲美甚至更优，同时在可解释性方面表现更佳，并在某些数据集上实现了维度的指数级优势。

ABSTRACT

Physicists use quantum models to describe the behavior of physical systems. Quantum models owe their success to their interpretability, to their relation to probabilistic models (quantization of classical models) and to their high predictive power. Beyond physics, these properties are valuable in general data science. This motivates the use of quantum models to analyze general nonphysical datasets. Here we provide both empirical and theoretical insights into the application of quantum models in data science. In the theoretical part of this paper, we firstly show that quantum models can be exponentially more efficient than probabilistic models because there exist datasets that admit low-dimensional quantum models and only exponentially high-dimensional probabilistic models. Secondly, we explain in what sense quantum models realize a useful relaxation of compressed probabilistic models. Thirdly, we show that sparse datasets admit low-dimensional quantum models and finally, we introduce a method to compute hierarchical orderings of properties of users (e.g., personality traits) and items (e.g., genres of movies). In the empirical part of the paper, we evaluate quantum models in item recommendation and observe that the predictive power of quantum-inspired recommender systems can compete with state-of-the-art recommender systems like SVD++ and PureSVD. Furthermore, we make use of the interpretability of quantum models by computing hierarchical orderings of properties of users and items. This work establishes a connection between data science (item recommendation), information theory (communication complexity), mathematical programming (positive semidefinite factorizations) and physics (quantum models).

研究动机与目标

• 探索原本为物理学开发的量子模型在数据科学中的应用，特别是推荐系统领域。
• 解决用户-物品推荐中预测能力、计算效率与可解释性之间的权衡问题。
• 建立量子模型、概率模型与矩阵分解技术之间的理论与实证联系。
• 证明对于某些数据集，量子模型可实现比概率模型更低维的表示，从而提升计算效率。
• 提出一种基于受量子启发的分解方法，用于计算用户与物品属性的层次排序。

提出的方法

• 将用户与物品表示为希尔伯特空间中的密度矩阵（正定矩阵），其中用户状态与物品测量通过量子态与可观测量进行建模。
• 将推荐任务建模为正定矩阵分解问题，通过用户状态与物品效应矩阵的乘积的迹来计算用户对物品评分的概率。
• 使用受量子启发的优化算法，从未观测到的评分中学习用户与物品矩阵的低秩表示。
• 通过“量化”现有技术（如用户与物品属性的层次聚类）建立量子模型与概率模型之间的联系。
• 应用通信复杂性理论证明，某些数据集所需的概率模型维度远高于量子模型，体现出指数级优势。
• 通过分析学习到的量子表示的特征向量，实现一种计算用户与物品属性层次排序的方法。

实验结果

研究问题

• RQ1 受量子启发的模型能否在预测性能上超越SVD++和PureSVD等经典推荐系统？
• RQ2 是否存在某些数据集，使得量子模型所需维度显著低于概率模型，从而实现更高效的表示？
• RQ3 如何利用量子模型计算用户与物品属性的可解释层次结构？
• RQ4 在矩阵分解的背景下，量子模型与压缩或非压缩概率模型之间存在何种理论关系？
• RQ5 能否利用量子模型的可解释性，提供用户与物品特征的有意义可视化或排序？

主要发现

• 受量子启发的推荐系统在预测性能上表现优异，在MovieLens 100K与1M数据集上的平均精确率与召回率指标均优于SVD++与PureSVD。
• 存在某些数据集，其概率模型的最小维度远高于量子模型，证明了量子模型在表示效率上具有指数级优势。
• 稀疏数据集可支持低维量子模型，表明量子模型特别适合处理用户-物品评分矩阵中的稀疏性问题。
• 所提出的方法通过分析学习到的量子表示的特征向量，成功计算出用户与物品属性的层次排序，实现了对特质与类型等的可解释聚类。
• 量子模型为压缩概率模型提供了一种实用的松弛形式，在可解释性与低维表示之间实现了良好平衡。
• 理论分析确认，量子模型的最小维度始终小于或等于对应概率模型的最小维度，且在某些数据集中可严格更小。