[論文レビュー] Knowing your FATE: Friendship, Action and Temporal Explanations for User Engagement Prediction on Social Apps

Xianfeng Tang, Yozen Liu+4 more|arXiv (Cornell University)|Jun 10, 2020

Recommender Systems and Techniques参考文献 43被引用数 6

ひとこと要約

本稿では、SNSアプリにおけるユーザー参加予測のためのエンドツーエンドの説明可能なニューラルフレームワークFATEを提案する。FATEはテンソルベースのグラフニューラルネットワークとLSTMを用い、友人関係ネットワーク、ユーザー行動、時間的ダイナミクスを統合する。Snapchatのデータセット上で、SOTAと比較して予測誤差が約10%低く、トレーニング／推論が約20%高速であり、参加要因のローカルおよびグローバルな説明を提供する。

ABSTRACT

With the rapid growth and prevalence of social network applications (Apps) in recent years, understanding user engagement has become increasingly important, to provide useful insights for future App design and development. While several promising neural modeling approaches were recently pioneered for accurate user engagement prediction, their black-box designs are unfortunately limited in model explainability. In this paper, we study a novel problem of explainable user engagement prediction for social network Apps. First, we propose a flexible definition of user engagement for various business scenarios, based on future metric expectations. Next, we design an end-to-end neural framework, FATE, which incorporates three key factors that we identify to influence user engagement, namely friendships, user actions, and temporal dynamics to achieve explainable engagement predictions. FATE is based on a tensor-based graph neural network (GNN), LSTM and a mixture attention mechanism, which allows for (a) predictive explanations based on learned weights across different feature categories, (b) reduced network complexity, and (c) improved performance in both prediction accuracy and training/inference time. We conduct extensive experiments on two large-scale datasets from Snapchat, where FATE outperforms state-of-the-art approaches by ${\approx}10\%$ error and ${\approx}20\%$ runtime reduction. We also evaluate explanations from FATE, showing strong quantitative and qualitative performance.

研究の動機と目的

• SNSアプリのユーザー参加予測における説明可能なモデルの不足に対処すること。
• 将来的な指標期待に基づいて、多様なビジネスシナリオに適応可能な柔軟なユーザー参加の定義を構築すること。
• 友人関係の影響、アプリ内ユーザー行動、時間的ダイナミクスを統合的にモデル化する統一フレームワークを設計し、予測精度と解釈可能性を向上させること。
• 注目メカニズムと期待最大化を用いて、ローカル（ユーザー単位）およびグローバル（アプリ単位）の参加要因の説明を可能にすること。
• 標準のGNNおよびLSTMバージョンと比較して、パrameter数を削減し、トレーニング／推論の効率を向上させるテンソルベースのアーキテクチャを用いて、モデルの複雑さを低減すること。

提案手法

• FATEは、社会的グラフ全体における友人関係の影響とユーザー相互作用パターンをモデル化するため、テンソルベースのグラフ畳み込みネットワーク（GCN）を採用する。
• 行動固有の重要性を区別しながら、時間的ダイナミクスとユーザー行動の順序を捉えるために、テンソルベースのLSTMを用いる。
• 混合注目メカニズムにより、友人関係、行動、時間的要因の各コンポーネントの特徴レベルの重みを統合し、説明可能な予測を生成する。
• 期待最大化を用いてグローバルな重要度スコアとローカル説明のための注目重みを導出する。
• テンソルベースの設計により、標準のGNNおよびLSTMバージョンと比較して、パrameter数を削減し、トレーニングと推論を高速化する。
• エンドツーエンドでトレーニングされ、参加予測と説明品質の両方を同時に最適化する。

実験結果

リサーチクエスチョン

• RQ1 SNSアプリの多様なビジネス目的に適合できるように、ユーザー参加をどのように柔軟に定義できるか？
• RQ2 友人関係ネットワーク、アプリ内ユーザー行動、時間的ダイナミクスが、ユーザー参加に及ぼす影響を統合的に評価すると、どの程度の寄与があるか？
• RQ3 統一されたディープラーニングモデルは、高い予測精度と意味のある解釈可能な参加要因の説明を同時に達成できるか？
• RQ4 FATEの注目ベースの重要度スコアは、XGBoostおよび標準LSTMと比較して、時間的パターンや行動の関連性をどの程度効果的に捉えられるか？
• RQ5 テンソルベースのアーキテクチャは、パフォーマンスや説明可能性を損なわずに、モデル効率を向上させられるか？

主な発見

• FATEは、2つの大規模なSnapchatデータセット上で、SOTA手法と比較して予測誤差を約10%低減した。
• FATEは、効率的なテンソルベースのアーキテクチャのおかげで、SOTAモデルと比較して実行時間に約20%の短縮を達成した。
• FATEのローカルな友人関係の重要度スコアは、実際のユーザーセッション時間パターンと強く相関しており、高重要度の友人は類似した行動パターンを示していることがわかった。
• モデルの時間的注目は、標準LSTMよりもユーザー行動の周期性をより効果的に捉えている。標準LSTMは、明確に異なる時間的パターンを分離できていない。
• XGBoostおよびLSTMと比較して、FATEの説明は定性的および定量的に優れており、よりバランスが取れて意味のある特徴重要度分布を示している。
• FATEのテンソルベースのGCNおよびLSTMコンポーネントは、高い予測精度を維持しながら、モデルの複雑さを低減し、トレーニング／推論速度を向上させた。