[論文レビュー] Dionysius: A Framework for Modeling Hierarchical User Interactions in Recommender Systems

Jian Wang, Krishnaram Kenthapadi+2 more|arXiv (Cornell University)|Jun 12, 2017

Recommender Systems and Techniques参考文献 30被引用数 4

ひとこと要約

Dionysiusは、特徴空間の拡張を伴わずに、ユーザーのインタラクション信号（例：求人閲覧、応募）を大規模なレコメンデーションシステムに統合する階層的グラフィカルモデルフレームワークを提案する。これは、インタラクションの階層から潜在的なユーザー表現を学習することで実現される。LinkedInでは1年を超えて運用されており、VPIおよびAPIで測定された求人レコメンデーションの質が向上した一方で、モデルの解釈可能性を維持し、既存のコンテンツベースのインfraストラクチャを再利用した。

ABSTRACT

We address the following problem: How do we incorporate user item interaction signals as part of the relevance model in a large-scale personalized recommendation system such that, (1) the ability to interpret the model and explain recommendations is retained, and (2) the existing infrastructure designed for the (user profile) content-based model can be leveraged? We propose Dionysius, a hierarchical graphical model based framework and system for incorporating user interactions into recommender systems, with minimal change to the underlying infrastructure. We learn a hidden fields vector for each user by considering the hierarchy of interaction signals, and replace the user profile-based vector with this learned vector, thereby not expanding the feature space at all. Thus, our framework allows the use of existing recommendation infrastructure that supports content based features. We implemented and deployed this system as part of the recommendation platform at LinkedIn for more than one year. We validated the efficacy of our approach through extensive offline experiments with different model choices, as well as online A/B testing experiments. Our deployment of this system as part of the job recommendation engine resulted in significant improvement in the quality of retrieved results, thereby generating improved user experience and positive impact for millions of users.

研究の動機と目的

• 暗黙のユーザーインタラクション信号（例：閲覧、応募）を、特徴空間の拡張を伴わずに大規模なコンテンツベースのレコメンデーションシステムに統合すること。
• パーソナライズドレコメンデーションシステムにおけるモデルの解釈可能性と説明可能性を維持すること。
• ユーザープロファイル特徴を想定した既存のコンテンツベースのレコメンデーションインfraストラクチャへのシームレスな統合を可能にすること。
• 高いデータ新鮮度を維持しながら、数百万件の候補アイテムに対するリアルタイムかつ低レイテンシのスコアリングを可能にすること。
• 初期行動が全くない新規ユーザーを含む、さまざまなインタラクション履歴を持つユーザーのレコメンデーション品質を向上させること。

提案手法

• フレームワークは、ユーザーのプロファイルを事前分布とし、強さの順序（例：応募 > 閲覧 > 未行動）でインタラクション信号に基づいて更新する階層的グラフィカルモデルを用いて、潜在的ユーザー表現ベクトルを学習する。
• インタラクション強度の階層は、上位の信号（例：応募）が下位の表現に影響を与え、データ蓄積に伴い事前の影響が弱まるようにモデル化される。
• 一般化線形混合モデル（GLMM）フレームワークを用いて、ユーザー固有の隠れフィールドと回帰係数を同時に学習し、効率的なトレーニングと推論を可能にする。
• 学習された隠れフィールドがオンライン推論パイプラインでユーザープロファイル特徴に置き換えられ、既存のキーバリュー・ストアおよびレコメンデーションインfraストラクチャの再利用が可能になる。
• 段階的移行戦略を用いて生産環境にデプロイされ、完全移行まで新しいランク付けプラットフォームと併用された。
• オフライン実験およびオンラインA/Bテストにより、異なるユーザー層やインタラクションパターンにおいてモデルの有効性が検証された。

実験結果

リサーチクエスチョン

• RQ1 暗黙のユーザーインタラクション信号（例：閲覧、応募）を、特徴空間の拡張を伴わずにコンテンツベースのレコメンデーションシステムに効果的に統合できるか？
• RQ2 ユーザーインタラクションの階層的モデルは、モデルの解釈可能性を維持しつつ、レコメンデーション品質をどのように向上させられるか？
• RQ3 暗黙のインタラクション信号統合時に、既存のコンテンツベースのレコメンデーションインfraストラクチャをどの程度再利用できるか？
• RQ4 インタラクションの階層（例：応募 > 閲覧 > 動作なし）は、ユーザー表現学習およびレコメンデーションパフォーマンスにどのような影響を及えるか？
• RQ5 初期行動が全くないユーザーを含む多様なユーザー層において、このフレームワークはどのように動作するか？

主な発見

• Dionysiusフレームワークは、オンラインA/Bテストで、1インプレッションあたりの閲覧数（VPI）が12.5%増加し、1インプレッションあたりの応募数（API）が15%増加したことで、求人レコメンデーションの質が顕著に向上した。
• 閲覧なし・応募なしユーザーを含むすべてのインタラクションモデルが、インタラクション信号を学習しないベースラインモデルを上回り、ユーザーの種類にかかわらずモデルの強靭性が示された。
• システムはLinkedInで約18か月にわたり生産環境で正常に運用され、複数の求人レコメンデーションシナリオで数百万のユーザーにサービスを提供した。
• フレームワークにより、レガシーインfraストラクチャから新しいランク付けプラットフォームへのスムーズで段階的な移行が実現され、サービス品質の低下は一切なかった。
• インタラクションの階層からの学習能力のおかげで、行動履歴が限られているか全くないユーザーに対しても、効果的な表現学習が可能だった。
• プロファイル特徴を学習された潜在ベクトルに置き換えることで、複雑なブラックボックス表現を避けることにより、モデルの解釈可能性が維持された。