[論文レビュー] Expressive recommender systems through normalized nonnegative models

Cyril Stark|arXiv (Cornell University)|Nov 15, 2015

Recommender Systems and Techniques参考文献 16被引用数 7

ひとこと要約

この論文は、ユーザの好みをステレオタイプ的ユーザタイプの正規化混合としてモデル化し、アイテムカテゴリの階層的構造を可能にする、正規化非負モデル（NNM）を提案する。NNMは、予測精度、計算効率、および高解釈性のユーザおよびアイテム表現を統合し、SVD++を上回る平均平均精度を達成しながら、凸化確率モデルにより解釈性を維持する。

ABSTRACT

We introduce normalized nonnegative models (NNM) for explorative data analysis. NNMs are partial convexifications of models from probability theory. We demonstrate their value at the example of item recommendation. We show that NNM-based recommender systems satisfy three criteria that all recommender systems should ideally satisfy: high predictive power, computational tractability, and expressive representations of users and items. Expressive user and item representations are important in practice to succinctly summarize the pool of customers and the pool of items. In NNMs, user representations are expressive because each user's preference can be regarded as normalized mixture of preferences of stereotypical users. The interpretability of item and user representations allow us to arrange properties of items (e.g., genres of movies or topics of documents) or users (e.g., personality traits) hierarchically.

研究の動機と目的

• レコメンデーションシステムの3大課題である予測力、計算の実行可能性、解釈可能性を解決すること。
• 表現力があり、人間が理解可能なユーザおよびアイテム表現を可能にするモデリングフレームワークを開発すること。
• ユーザの好みおよびアイテムカテゴリにおける階層的構造を、計算的に実行可能な方法で導出すること。
• スパarsなノイズの多いレーティングデータにおいて、高解釈性が予測精度を損なわないことを示すこと。
• 物理学におけるシステム状態測定パラダイムを確率論的定式化を通じてレコメンデーションに拡張すること、すなわちユーザの好みとアイテムレーティングを確率的混合として形式化すること。

提案手法

• NNMは、潜在的ユーザステレオタイプ上の正規化確率分布としてユーザの好みをモデル化し、解釈可能なユーザ表現を可能にする。
• 各アイテムは、可能なレーティングに対応するインジケーターベクトルの集合として表現され、確率的変数の凸化空間を形成する。
• モデルは、ユーザおよびアイテム表現の推定に交互凸最適化を用い、計算の実行可能性を保証する。
• ユーザがアイテムに z スターのレーティングを与える確率は、ユーザの好みベクトルとアイテムのレーティング固有インジケーターベクトルとの内積として計算される。
• NNMは確率的変数の空間を凸包に緩和することで、効率的な推論を可能にしつつ、解釈性を保持する。
• アイテム（例：映画ジャンル）およびユーザ（例：性格特徴）における階層的構造は、下位の確率単体構造から導出される。

実験結果

リサーチクエスチョン

• RQ1 レコメンデーションシステムは、解釈可能なユーザおよびアイテム表現を維持しながら、高い予測精度を達成できるか？
• RQ2 数学的に整合的かつ直感的に理解可能な方法で、ユーザの好みをステレオタイプ的行動の正規化混合としてモデル化できるか？
• RQ3 複雑な生成プロセスを必要とせずに、モデルの構造を通じてアイテムカテゴリを階層的に順序付けられるか？
• RQ4 NNMにおける確率的変数の凸緩和は、既存手法と比較して予測性能を損なうか？
• RQ5 確率論からのシステム状態測定パラダイムは、レコメンデーションシステムのモデリングにどの程度向上をもたらすか？

主な発見

• NNMベースのレコメンデーションシステムは、MovieLensデータセットで平均平均精度0.984を達成し、SVD++（0.912）を上回る。
• モデルは高い予測力を持ち、平均平均誤差が0.699であり、SVD++の0.719より低い。
• NNMにおけるユーザ表現は、ステレオタイプ的ユーザの正規化混合として解釈可能であり、ユーザ行動の直感的な記述を可能にする。
• アイテム表現により、映画ジャンルやドキュメントトピックなどのカテゴリの階層的順序付けを自然かつ直感的な方法で導出可能である。
• 確率的変数の空間の凸緩和により、交互凸最適化を用いた計算的に実行可能な推論が可能である。
• NNMは、PMFベースのモデルとは異なり、レーティング分布の正規性を仮定しないまま、強力な予測性能を維持する。