[论文解读] Learning Mixed Membership Community Models in Social Tagging Networks through Tensor Methods

Anima Anandkumar, Hanie Sedghi|arXiv (Cornell University)|Mar 16, 2015

Tensor decomposition and applications被引用 8

一句话总结

本文提出一种基于张量分解的方法，用于在社交标签网络（folksonomies）中保证学习混合成员关系社区，通过概率混合成员随机folksonomy（MMSF）模型对用户-标签-资源超边进行建模。该方法在高效样本复杂度和分离条件下的具有一致性，实现了在重叠、上下文相关标签系统中可扩展且理论可靠的社区检测。

ABSTRACT

Community detection in graphs has been extensively studied both in theory and in applications. However, detecting communities in hypergraphs is more challenging. In this paper, we propose a tensor decomposition approach for guaranteed learning of communities in a special class of hypergraphs modeling social tagging systems or folksonomies. A folksonomy is a tripartite 3-uniform hypergraph consisting of (user, tag, resource) hyperedges. We posit a probabilistic mixed membership community model, and prove that the tensor method consistently learns the communities under efficient sample complexity and separation requirements.

研究动机与目标

• 为解决社交标签系统中用户、标签和资源可能属于多个社区的重叠社区检测挑战。
• 开发一种统计上合理且可扩展的folksonomy模型，以捕捉混合成员关系和上下文相关标签行为。
• 利用张量分解为超图中的社区学习提供理论保证，克服先前启发式方法或基于狄利克雷分布方法的局限性。
• 放宽对社区成员关系的狄利克雷分布假设，允许一般分布并捕捉混合成员关系中的相关性。
• 利用超边生成中的条件独立性，实现在有限且现实数据下的稳定学习。

提出的方法

• 提出一种混合成员随机folksonomy（MMSF）模型，将MMSB模型扩展至用户、标签和资源构成的三部图3-一致超图。
• 施加条件独立性：在给定社区成员关系的前提下，各节点的超边生成相互独立，且标签选择依赖于资源访问的上下文。
• 利用从观测超边构建的高阶矩张量（三阶）捕捉社区结构，实现谱分解。
• 应用张量分解技术估计社区成员关系和交互模式，利用MMSF模型的特有结构。
• 采用次高斯Hanson-Wright不等式和向量Bernstein不等式，控制在成员关系分布弱假设下的矩估计集中性。
• 利用Davis-Kahan不等式控制子空间估计中的扰动，确保对采样噪声的鲁棒性。

实验结果

研究问题

• RQ1 能否使用张量方法在理论上保证学习社交标签网络中的混合成员关系社区？
• RQ2 包含上下文相关标签行为（如用户在特定上下文中访问资源）是否能提升社区检测性能，相较于标准模型？
• RQ3 在所提出的MMSF模型中，实现一致学习所需的样本复杂度和分离条件是什么？
• RQ4 该方法是否能在不假设狄利克雷分布成员关系的前提下学习社区，从而支持对相关社区成员关系的建模？
• RQ5 3-一致超图中的超边为何比标准图中的边提供更丰富的社区检测信号？

主要发现

• 所提出的张量方法在高效样本复杂度和温和分离条件下，实现了MMSF模型中混合成员关系社区的一致学习。
• 即使社区成员关系非狄利克雷分布，该方法仍提供理论保证，支持对一般相关结构的建模。
• 使用高阶张量（三阶）可实现唯一分解和一致估计，克服了非狄利克雷设定下Tucker形式张量的问题。
• 该模型利用了上下文相关标签行为——即标签选择依赖于资源访问的上下文——以增强社区信号并提高可识别性。
• 理论分析表明，folksonomy模型中的超边比图边提供更多信息，因为其能从多个节点视角提供信息。
• 通过次高斯Hanson-Wright不等式和向量Bernstein不等式推导出的经验界，确保了对采样噪声和矩估计集中性的鲁棒性。