[论文解读] DisenHCN: Disentangled Hypergraph Convolutional Networks for Spatiotemporal Activity Prediction

Yinfeng Li, Chen Gao+4 more|arXiv (Cornell University)|Aug 14, 2022

Human Mobility and Location-Based Analysis被引用 4

一句话总结

该论文提出DisenHCN，一种解耦的超图卷积网络，通过构建异质超图来捕捉细粒度用户相似性与复杂的用户-活动匹配关系，实现对时空活动预测的建模。该方法将用户嵌入解耦为位置、时间与活动感知子空间，并利用高效的超图卷积层学习高阶关系，在四个真实世界数据集上相较SOTA方法性能提升14.23%至18.10%。

ABSTRACT

Spatiotemporal activity prediction, aiming to predict user activities at a specific location and time, is crucial for applications like urban planning and mobile advertising. Existing solutions based on tensor decomposition or graph embedding suffer from the following two major limitations: 1) ignoring the fine-grained similarities of user preferences; 2) user's modeling is entangled. In this work, we propose a hypergraph neural network model called DisenHCN to bridge the above gaps. In particular, we first unify the fine-grained user similarity and the complex matching between user preferences and spatiotemporal activity into a heterogeneous hypergraph. We then disentangle the user representations into different aspects (location-aware, time-aware, and activity-aware) and aggregate corresponding aspect's features on the constructed hypergraph, capturing high-order relations from different aspects and disentangles the impact of each aspect for final prediction. Extensive experiments show that our DisenHCN outperforms the state-of-the-art methods by 14.23% to 18.10% on four real-world datasets. Further studies also convincingly verify the rationality of each component in our DisenHCN.

研究动机与目标

• 解决现有方法在建模细粒度用户相似性与时空活动预测中用户偏好纠缠方面的局限性。
• 克服张量分解与基于图的模型在捕捉多粒度、多类型用户相似性以及一对一多用户-活动交互关系方面的不足。
• 将用户偏好解耦为独立的方面——位置、时间与活动，以提升建模准确率与可解释性。
• 构建一种基于超图的框架，显式建模用户、位置、时间与活动之间的复杂高阶关系。
• 在稀疏数据上展示优越的性能与鲁棒性，尤其在低活动用户群体中表现更优。

提出的方法

• 构建包含多种类型超边的异质超图，以编码细粒度用户相似性（如相同位置、相同活动）以及复杂的多对多用户-时空活动匹配关系。
• 采用解耦表示学习策略，将用户嵌入分解为三个独立子空间——位置感知、时间感知与活动感知。
• 设计一种高效的超图卷积层（Eff-HGConv），在不同超边类型之间同时执行同类型与跨类型聚合，以保留特定方面特征。
• 引入一个独立性建模模块，并通过正则化系数γ强制解耦嵌入分量之间的统计独立性。
• 使用联合损失函数端到端优化模型，结合预测损失与解耦正则化项。
• 采用单层架构以避免过平滑问题，利用超图捕捉高阶关系的能力，无需深层堆叠。

实验结果

研究问题

• RQ1 异质超图能否有效建模时空活动预测中的细粒度、多类型用户相似性？
• RQ2 将用户嵌入解耦为位置、时间与活动感知子空间是否能提升预测性能与模型可解释性？
• RQ3 所提出的超图卷积机制与标准GCN相比，在捕捉高阶依赖关系方面表现如何？
• RQ4 与现有SOTA方法相比，DisenHCN在数据稀疏性条件下性能退化程度如何？
• RQ5 解耦正则化系数γ与聚合层数L的最优配置为何，才能实现鲁棒性能？

主要发现

• DisenHCN在四个真实世界数据集上相较SOTA方法实现14.23%至18.10%的性能提升，证明其在时空活动预测中的优越性。
• 该模型在所有数据集上均保持稳定且强劲的性能，其中在Telecom、TalkingData与4SQ数据集中最优γ值为3e-3，在TWEET中为1e-2。
• 当γ超过1e-2时，性能显著下降，表明过度正则化会损害优化与泛化能力。
• 仅使用一层聚合层即可达到峰值性能，证实超图结构可在无需深层堆叠的情况下有效捕捉高阶关系。
• 在稀疏用户群体中，DisenHCN显著优于MHCN与HWNN，且随着数据稀疏性增加，性能差距进一步扩大，尤其在活动记录少于五条的用户中表现更优。
• 消融实验验证了各组件的有效性，包括超图构建、解耦模块与Eff-HGConv层。