[论文解读] Quantum Recommendation Systems

Iordanis Kerenidis, Anupam Prakash|arXiv (Cornell University)|Mar 29, 2016

Quantum Computing Algorithms and Architecture参考文献 14被引用 83

一句话总结

本文提出了一种量子推荐系统，通过从偏好矩阵的低秩近似中采样，而非重建该矩阵，实现了在矩阵维度上的多对数时间复杂度。其关键贡献是一种量子算法，具有 $ O(\text{poly}(k)\text{polylog}(mn)) $ 的期望运行时间，能够在高概率下提供高质量的推荐，展示了在现实世界机器学习应用中的量子优势。

ABSTRACT

A recommendation system uses the past purchases or ratings of $n$ products by a group of $m$ users, in order to provide personalized recommendations to individual users. The information is modeled as an $m imes n$ preference matrix which is assumed to have a good rank-$k$ approximation, for a small constant $k$. In this work, we present a quantum algorithm for recommendation systems that has running time $O( ext{poly}(k) ext{polylog}(mn))$. All known classical algorithms for recommendation systems that work through reconstructing an approximation of the preference matrix run in time polynomial in the matrix dimension. Our algorithm provides good recommendations by sampling efficiently from an approximation of the preference matrix, without reconstructing the entire matrix. For this, we design an efficient quantum procedure to project a given vector onto the row space of a given matrix. This is the first algorithm for recommendation systems that runs in time polylogarithmic in the dimensions of the matrix and provides an example of a quantum machine learning algorithm for a real world application.

研究动机与目标

• 开发一种在矩阵维度上运行时间为多对数的量子推荐算法，以克服经典方法的多项式时间瓶颈。
• 通过从偏好矩阵的低秩近似中采样，而非完整重建，实现代理推荐的高效性。
• 为现实世界应用提供一种实用的量子机器学习算法，并具备可证明的性能保证。
• 从用户类型和共享效用属性的角度，形式化并证明偏好矩阵低秩假设的合理性。
• 设计一种高效的量子过程，将向量投影到矩阵的行空间上，构成推荐引擎的核心。

提出的方法

• 该算法使用量子幅度放大和幅度估计算法，从偏好矩阵的行空间中采样，避免了完整矩阵的重建。
• 通过量子奇异值变换（SVT）构建表示偏好矩阵前 $ k $ 个奇异向量的量子态。
• 设计一种量子投影过程，将用户偏好向量投影到矩阵的行空间上，从而实现对高价值产品的高效采样。
• 该方法依赖于截断的SVD近似 $ \widehat{T}_{\geq\sigma,\kappa} $，其中 $ \sigma $ 为奇异值的阈值，$ \kappa $ 控制近似误差。
• 通过设置参数，使得弗罗贝尼乌斯范数误差 $ \|T - \widehat{T}_{\geq\sigma,\kappa}\|_F \leq 9\epsilon\|T\|_F $，从而保证高概率正确性。
• 在适当的参数设置下，运行时间被限制在 $ O(\text{poly}(k)\text{polylog}(mn)) $，适用于至少 $ (1-\xi)(1-\delta-\zeta)m $ 名用户。

实验结果

研究问题

• RQ1 在用户偏好矩阵具有低秩结构的前提下，量子算法能否在矩阵维度上实现亚多项式运行时间？
• RQ2 量子从低秩近似中采样在时间复杂度上如何优于经典矩阵重建？
• RQ3 量子投影到行空间在实现高效推荐采样中起到什么作用？
• RQ4 在何种条件下，量子推荐算法能以高概率保持高精度？
• RQ5 该算法能否在保持多对数运行时间的同时，对噪声和部分数据具有鲁棒性？

主要发现

• 量子推荐算法实现了 $ O(\text{poly}(k)\text{polylog}(mn)) $ 的期望运行时间，相较于经典方法具有显著加速。
• 对于至少 $ (1-\xi)(1-\delta-\zeta)m $ 名用户，该算法以高概率生成高质量推荐，推荐质量的误差有界。
• 真实偏好矩阵 $ T $ 与其近似 $ \widehat{T}_{\geq\sigma,\kappa} $ 之间的弗罗贝尼乌斯范数误差以高概率被限制在 $ 9\epsilon\|T\|_F $ 以内。
• 量子投影过程以至少 $ 1 - 1/\text{poly}(n) $ 的概率成功输出与矩阵投影行成比例的量子态。
• 在采样比例 $ p $ 为常数且矩阵谱性质表现良好时，对大多数用户而言，期望运行时间与矩阵大小无关（即为常数）。
• 即使在亚常数采样率下，算法的正确性仍能保持，但为实现最优运行时间，仍需保持常数 $ p $。