[論文レビュー] DisenHCN: Disentangled Hypergraph Convolutional Networks for Spatiotemporal Activity Prediction

Yinfeng Li, Chen Gao+4 more|arXiv (Cornell University)|Aug 14, 2022

Human Mobility and Location-Based Analysis被引用数 4

ひとこと要約

本稿では、細粒度なユーザ類似性と複雑なユーザ-アクティビティマッチングを捉えるために異種ハイパーグラフを構築することで、時空間的アクティビティ予測をモデル化する、分離可能なハイパーグラフ畳み込みネットワーク、DisenHCNを提案する。ユーザ埋め込みを場所、時間、アクティビティに敏感なサブスペースに分離し、効率的なハイパーグラフ畳み込みを用いて高次元の関係を学習し、4つの実世界データセットにおいて最先端手法よりも14.23%から18.10%の性能向上を達成した。

ABSTRACT

Spatiotemporal activity prediction, aiming to predict user activities at a specific location and time, is crucial for applications like urban planning and mobile advertising. Existing solutions based on tensor decomposition or graph embedding suffer from the following two major limitations: 1) ignoring the fine-grained similarities of user preferences; 2) user's modeling is entangled. In this work, we propose a hypergraph neural network model called DisenHCN to bridge the above gaps. In particular, we first unify the fine-grained user similarity and the complex matching between user preferences and spatiotemporal activity into a heterogeneous hypergraph. We then disentangle the user representations into different aspects (location-aware, time-aware, and activity-aware) and aggregate corresponding aspect's features on the constructed hypergraph, capturing high-order relations from different aspects and disentangles the impact of each aspect for final prediction. Extensive experiments show that our DisenHCN outperforms the state-of-the-art methods by 14.23% to 18.10% on four real-world datasets. Further studies also convincingly verify the rationality of each component in our DisenHCN.

研究の動機と目的

• 時空間的アクティビティ予測における、細粒度なユーザ類似性のモデル化と、エンタングルド（混在した）ユーザの好みの制限を克服する。
• テンソル分解やグラフベースのモデルが、多様な粒度・多様なタイプのユーザ類似性および1対多のユーザ-アクティビティ相互作用を捉えられないという限界を克服する。
• ユーザの好みを場所、時間、アクティビティの異なる側面に分離することで、モデルの精度と解釈可能性を向上させる。
• ユーザ、場所、時間、アクティビティの間の複雑な高次元関係を明示的にモデル化するハイパーグラフベースのフレームワークを開発する。
• 特に活動が少ないユーザの領域においても、スパarsity（疎らさ）に強く、優れた性能とロバスト性を示すことを実証する。

提案手法

• 細粒度なユーザ類似性（例：同じ場所、同じアクティビティ）と、複雑な1対多のユーザ時空間的アクティビティマッチングをエンコードする複数種類のハイパーエッジを有する異種ハイパーグラフを構築する。
• 分離可能な表現学習戦略を用いて、ユーザ埋め込みを場所に敏感なサブスペース、時間に敏感なサブスペース、アクティビティに敏感なサブスペースの3つに分離する。
• 異なるハイパーエッジタイプ間のイントラタイプおよびインタラタイプの集約を実行する効率的なハイパーグラフ畳み込み層（Eff-HGConv）を設計する。
• 統計的独立性を保証するために、正則化係数γを用いた独立性モデリングモジュールを導入する。
• 予測損失と分離正則化を組み合わせたジョイント損失関数を用いて、モデルをエンドツーエンドで最適化する。
• 過剰平滑化を回避するため、深さのない単一層アーキテクチャを採用し、ハイパーグラフの高次元関係を深さのない構造で効果的に捉える。

実験結果

リサーチクエスチョン

• RQ1 異種ハイパーグラフは、時空間的アクティビティ予測における細粒度で多様なタイプのユーザ類似性を効果的にモデル化できるか？
• RQ2 ユーザ埋め込みを場所、時間、アクティビティに敏感なサブスペースに分離することで、予測性能とモデルの解釈性が向上するか？
• RQ3 提案されたハイパーグラフ畳み込み機構は、標準的なGCNと比較して高次元の依存関係をどのように捉えているか？
• RQ4 既存の最先端手法と比較して、DisenHCNはデータの疎らさに起因する性能低下をどの程度軽減できるか？
• RQ5 ロバストな性能を達成するための、分離正則化係数γと集約層数Lの最適な設定は何か？

主な発見

• DisenHCNは、4つの実世界データセットにおいて、最先端手法よりも14.23%から18.10%の性能向上を達成し、時空間的アクティビティ予測における優位性を示した。
• モデルは全データセットで安定的かつ高い性能を維持しており、Telecom、TalkingData、4SQでは最適なγ値が3e-3、TWEETでは1e-2であった。
• γが1e-2を超えると性能が著しく低下し、過剰正則化が最適化と一般化性能に悪影響を及けることが示された。
• 1つの集約層でのピーク性能が達成されたことから、ハイパーグラフ構造が深さのない構造で高次元関係を効果的に捉えられることを確認した。
• 特に活動記録が5件未満のスパースなユーザグループにおいて、DisenHCNはMHCNおよびHWNNを著しく上回り、データの疎らさが増すほど性能差が拡大した。
• アブレーションスタディにより、ハイパーグラフ構築、分離モジュール、Eff-HGConv層の各構成要素の有効性が確認された。