[論文レビュー] Understanding the Predictive Power of Computational Mechanics and Echo State Networks in Social Media

David Darmon, Jared Sylvester+2 more|arXiv (Cornell University)|Jun 26, 2013

Neural Networks and Reservoir Computing参考文献 22被引用数 4

ひとこと要約

本稿は、15,000人のユーザーの7週間分のデータを用いて、計算力学とエコー状態ネットワークがTwitterユーザー行動を予測する力について調査している。両手法とも、記憶依存的なポイント過程としてユーザー行動を効果的にモデル化でき、大多数のユーザーにおいて類似した性能を示すが、行動構造が顕著に異なるユーザーでは差が顕在化し、動的SNSデータにおける構造的忠実性と適応性のトレードオフを示している。

ABSTRACT

There is a large amount of interest in understanding users of social media in order to predict their behavior in this space. Despite this interest, user predictability in social media is not well-understood. To examine this question, we consider a network of fifteen thousand users on Twitter over a seven week period. We apply two contrasting modeling paradigms: computational mechanics and echo state networks. Both methods attempt to model the behavior of users on the basis of their past behavior. We demonstrate that the behavior of users on Twitter can be well-modeled as processes with self-feedback. We find that the two modeling approaches perform very similarly for most users, but that they differ in performance on a small subset of the users. By exploring the properties of these performance-differentiated users, we highlight the challenges faced in applying predictive models to dynamic social data.

研究の動機と目的

• 計算力学とエコー状態ネットワークがSNSユーザー行動を予測する能力を理解すること。
• 現実世界のSNSデータにおいて、異なるモデリングパラダイムが異なるユーザープロファイルでより優れた性能を発揮するかどうかを検討すること。
• これらのモデルがユーザー行動のノイズや時間的変動に対してどれほど頑健であるかを評価すること。
• 社会的ネットワーク要因やコンテンツを組み込まず、過去の行動のみを用いてユーザー行動をモデル化する際の限界を明らかにすること。
• 今後の研究における予測モデルの拡張の基盤を築くこと。具体的には、外生的要因やコンテンツ特徴を予測モデルに統合することを目的とする。

提案手法

• ツイートのタイムスタンプを1秒間隔のバッチに分け、少なくとも1件のツイートがある場合は1、ない場合は0とするバイナリータイム系列を構築する。
• 計算力学は、過去の行動の最小十分統計量を捉える因果的状態を特定することで適用され、単純なモデルから複雑なモデルへと段階的に確率的モデルを構築する。
• エコー状態ネットワークは、内部リザボアの重みを最適化して、過去の入力に基づき将来の状態を予測するように訓練され、バイナリータイム系列のダイナミクスを学習する。
• 両モデルは、未観測の将来の時間窓における予測精度を評価し、予測誤差や対数尤度といった標準指標を用いて性能を測定する。
• ユーザーごとの比較を通じて、一方の手法が他方を上回るユーザーのサブセットを特定し、ユーザー行動の構造的および動的差に注目する。
• 条件付き定常性を仮定し、時間的に非重複する時間区間におけるモデルの安定性を評価してこの仮定を検証する。

実験結果

リサーチクエスチョン

• RQ1 計算力学とエコー状態ネットワークは、7週間の期間にわたりTwitterユーザー行動をどの程度効果的に予測できるか？
• RQ2 特定のユーザーのプロファイルにおいて、一方のモデリングアプローチが他方を一貫して上回るケースは存在するか？
• RQ3 計算力学の構造的単純さとエコー状態ネットワークの適応的複雑さが、予測性能に及ぼす影響はどの程度か？
• RQ4 両モデルはユーザー行動のノイズや時間的変動に対してどの程度頑健であるか？
• RQ5 隠れた行動状態は、これらのモデルの予測力にどのように寄与しているか？

主な発見

• 両モデリング手法は大多数のユーザーにおいて非常に類似した性能を示しており、Twitterユーザー行動を記憶依存的なポイント過程としてモデル化するうえで両者とも有効であることが示された。
• 一部のユーザーにおいて性能の差が顕在化し、構造的・安定的行動パターンを示すユーザーでは計算力学がエコー状態ネットワークを上回った。
• エコー状態ネットワークは、動的または変動的なユーザー行動に対してより高い適応性を示したが、その代わりに構造的洞察の深さには欠ける傾向があった。
• 両モデルともノイズに対して頑健であり、性能の劣化が滑らかに進行する傾向を示しており、現実のSNSデータにおける実用的価値が裏付けられた。
• 結果から、大多数のユーザーは僅かな数の隠れた行動状態を示していることが示唆され、ユーザー集団全体におけるモデル性能の高さの類似性が説明された。
• 今後の研究において、ネットワーク効果やコンテンツ特徴といった外生要因を統合することで、予測精度をさらに向上させる必要があることが強調された。