[論文レビュー] Context-aware Ensemble of Multifaceted Factorization Models for Recommendation Prediction in Social Networks

Yunwen Chen, Zuotao Liu+5 more|arXiv (Cornell University)|May 3, 2021

Recommender Systems and Techniques参考文献 11被引用数 8

ひとこと要約

本論文では、ソーシャルネットワークの関係性、ユーザー行動（例：リツイート、コメント）、およびユーザーのプロフィール（年齢、性別、キーワード）を暗黙のフィードバックとして統合することで、推薦精度を向上させる文脈に配慮した多様な要因分解モデルのアンサンブルを提案する。複数の要因分解モデルを教師ありロジスティック回帰で統合し、ユーザー行動の持続時間をモデル化することで、本手法は公的テストセットでMAPスコア0.43959を達成し、KDD-Cup 2012で2位を獲得した。

ABSTRACT

This paper describes the solution of Shanda Innovations team to Task 1 of KDD-Cup 2012. A novel approach called Multifaceted Factorization Models is proposed to incorporate a great variety of features in social networks. Social relationships and actions between users are integrated as implicit feedbacks to improve the recommendation accuracy. Keywords, tags, profiles, time and some other features are also utilized for modeling user interests. In addition, user behaviors are modeled from the durations of recommendation records. A context-aware ensemble framework is then applied to combine multiple predictors and produce final recommendation results. The proposed approach obtained 0.43959 (public score) / 0.41874 (private score) on the testing dataset, which achieved the 2nd place in the KDD-Cup competition.

研究の動機と目的

• 疎でノイジーなデータにおけるソーシャルネットワーク内の複雑なユーザーの関心をモデル化する課題に対処すること。
• ソーシャル関係性、ユーザー行動、プロフィール属性といった多様な特徴を統合することで、推薦精度を向上させること。
• 複数の予測器を統合する文脈に配慮したアンサンブルフレームワークを構築すること。
• 非アクティブユーザーのための冷スタート問題を、ユーザーのプロフィールおよび行動特徴を活用することで軽減すること。
• ユーザー行動の持続時間と時間的文脈をモデル化し、動的な関心の変化を捉えること。

提案手法

• 本手法は2段階のトレーニングフレームワークを採用する：まず事前処理済みデータ上で多様な要因分解モデルをトレーニングし、次にそれらを教師ありロジスティック回帰で統合する。
• ソーシャルネットワーク行動（リツイート、コメント、メンション）は、ユーザー・アイテム間の相互作用信号を強化するための暗黙のフィードバックとして扱われる。
• 年齢、性別、タグ、キーワード、ツイート数といったユーザー特徴は、要因分解モデルにおけるバイアスおよび要因ベクトルとして統合される。
• 時間的文脈は、過去の行動のスライディングウィンドウ（例：Γ(5) = 最後の5ステップ）を用いてモデル化され、予測の重み付けに使用される。
• ユーザー行動の持続時間は時系列信号としてモデル化され、ユーザー参加の時間的ダイナミクスを捉える。
• 文脈に配慮したアンサンブルフレームワークは、検証セット上で学習された係数を用いたロジスティック回帰により、複数のベースモデルの予測を統合する。

実験結果

リサーチクエスチョン

• RQ1 ソーシャルネットワークの関係性およびユーザー行動を協調フィルタリングにおいて、どのように効果的に暗黙のフィードバックとしてモデル化できるか？
• RQ2 年齢、性別、タグなどのユーザーのプロフィール特徴は、特に冷スタートユーザーにおいて推薦精度にどのような影響を与えるか？
• RQ3 時間的文脈と行動持続時間の統合が、推薦モデルの予測力にどのように寄与するか？
• RQ4 複数の多様な要因分解モデルのアンサンブル学習が、個々のモデルに比べて性能をどの程度向上させるか？
• RQ5 教師あり回帰に基づくアンサンブル戦略は、多様な予測器を効果的に統合し、最先端の結果を達成できるか？

主な発見

• リツイートやコメントなどのソーシャルネットワーク行動を暗黙のフィードバックとして統合することで、モデルのMAPは0.3721から0.3701に向上し、顕著な向上が確認された。
• 年齢、性別、キーワードなどのユーザーのプロフィール特徴を統合することで、MAPは0.3887に上昇し、冷スタート状況での価値が顕著に示された。
• スライディングウィンドウ（Γ(5)）を用いたユーザー行動持続時間と時間的文脈のモデル化により、公的テストセットでMAPが0.4395に達し、全設定の中で最高となった。
• 文脈に配慮した多様な要因分解モデルのアンサンブルは、公的MAPスコア0.43959およびプライベートスコア0.41874を達成し、KDD-Cup 2012で2位を獲得した。
• 補足トレーニングデータの使用および最近傍探索技術の導入により、最終段階でMAPが0.3907から0.3911に向上した。