[論文レビュー] Recommender systems inspired by the structure of quantum theory

Cyril Stark|arXiv (Cornell University)|Jan 22, 2016

Advanced Bandit Algorithms Research参考文献 64被引用数 5

ひとこと要約

本稿では、量子理論の数学的構造を活用して、ユーザーの好みとアイテムの特徴を正定値行列として表現することで、推薦システム向けの量子にインspiredなモデルを提案する。実験では、MovieLensデータセットにおいて、SVD++ や PureSVD といった最先端の手法と同等またはそれ以上の予測性能を達成していることが示され、特定のデータセットでは次元の指数的優位性と解釈可能性の向上を実現している。

ABSTRACT

Physicists use quantum models to describe the behavior of physical systems. Quantum models owe their success to their interpretability, to their relation to probabilistic models (quantization of classical models) and to their high predictive power. Beyond physics, these properties are valuable in general data science. This motivates the use of quantum models to analyze general nonphysical datasets. Here we provide both empirical and theoretical insights into the application of quantum models in data science. In the theoretical part of this paper, we firstly show that quantum models can be exponentially more efficient than probabilistic models because there exist datasets that admit low-dimensional quantum models and only exponentially high-dimensional probabilistic models. Secondly, we explain in what sense quantum models realize a useful relaxation of compressed probabilistic models. Thirdly, we show that sparse datasets admit low-dimensional quantum models and finally, we introduce a method to compute hierarchical orderings of properties of users (e.g., personality traits) and items (e.g., genres of movies). In the empirical part of the paper, we evaluate quantum models in item recommendation and observe that the predictive power of quantum-inspired recommender systems can compete with state-of-the-art recommender systems like SVD++ and PureSVD. Furthermore, we make use of the interpretability of quantum models by computing hierarchical orderings of properties of users and items. This work establishes a connection between data science (item recommendation), information theory (communication complexity), mathematical programming (positive semidefinite factorizations) and physics (quantum models).

研究の動機と目的

• 物理学で開発された量子モデルの応用をデータサイエンス、特に推薦システム分野に探求すること。
• ユーザー・アイテム推薦における予測性能、計算効率、解釈可能性のトレードオフを解決すること。
• 量子モデルと確率的モデル、行列分解技術との間の理論的・実験的関係を確立すること。
• 特定のデータセットにおいて、確率的モデルよりも低次元の表現が可能であることを示し、より効率的な計算を可能にすること。
• 量子にインspiredな因子分解を用いて、ユーザーおよびアイテムの特性の階層的順序付けを計算する手法を開発すること。

提案手法

• ヒルベルト空間内に、ユーザー状態とアイテム測定を量子状態と可観測量としてモデル化した密度行列（正定値行列）としてユーザーとアイテムを表現する。
• 推薦タスクを正定値因子分解問題として定式化し、ユーザーがアイテムに評価を与える確率を、ユーザー状態とアイテム効果行列の積のトレースによって計算する。
• 観測された評価から、低ランクのユーザーおよびアイテム行列の表現を学習するため、量子にインspiredな最適化アルゴリズムを用いる。
• 量子モデルと確率的モデルの関係を活用し、既存の技術（例：ユーザーおよびアイテム特性の階層的クラスタリング）を「量子化」することで応用する。
• 通信複雑性理論を用いて、一部のデータセットでは確率的モデルに比べて量子モデルが指数的に高い次元を必要としないことを示す。
• 学習された量子表現の固有ベクトルを分析することで、ユーザーおよびアイテムの特性の階層的順序付けを計算する手法を実装する。

実験結果

リサーチクエスチョン

• RQ1 量子にインspiredなモデルは、SVD++ や PureSVD といった古典的推薦システムを上回る予測性能を達成できるか？
• RQ2 確率的モデルに比べて量子モデルが著しく低い次元で表現可能なデータセットは存在するか？ これにより、より効率的な表現が可能になるか？
• RQ3 量子モデルを用いて、ユーザーおよびアイテム特性の解釈可能な階層的構造をどのように計算できるか？
• RQ4 行列分解の文脈において、量子モデルと圧縮・非圧縮の確率的モデルとの理論的関係は何か？
• RQ5 量子モデルの解釈可能性を活用して、ユーザーおよびアイテムの特徴の意味のある可視化や順序付けを提供できるか？

主な発見

• 量子にインspiredな推薦システムは、競争力のある予測性能を達成しており、MovieLens 100K および 1M データセットにおいて、平均平均精度（mean-average-precision）とリCALLの指標が SVD++ や PureSVD を上回っている。
• 確率的モデルの最小次元が量子モデルに比べて指数的に大きいデータセットが存在し、表現効率に指数的優位性を示している。
• スパースなデータセットでは低次元の量子モデルが有効であるため、量子モデルはユーザー・アイテム評価行列のスパarsity処理に特に適していると考えられる。
• 提案手法は、学習された量子表現の固有ベクトルを分析することで、ユーザーおよびアイテムの特性の階層的順序付けを成功裏に計算し、特徴やジャンルの解釈可能なクラスタリングを可能にしている。
• 量子モデルは、圧縮確率的モデルの有用な緩和を実現し、解釈可能性と低次元表現の間で実用的なバランスを提供している。
• 理論的分析により、量子モデルの最小次元は常にそれに対応する確率的モデルの最小次元以下であることが確認され、特定のデータセットでは厳密な不等号が成立する可能性がある。