[论文解读] GraphTSNE: A Visualization Technique for Graph-Structured Data

Yao Yang Leow, Thomas Laurent+1 more|arXiv (Cornell University)|Apr 15, 2019

Data Visualization and Analytics参考文献 22被引用 10

一句话总结

GraphTSNE 是一种新颖的可视化技术，通过在图论和基于特征的 t-SNE 损失的加权组合上训练图卷积网络（GCN），将图结构与节点特征联合利用。通过可学习超参数 α 平衡这两个组件，GraphTSNE 生成的可视化结果在保持结构连通性和特征聚类方面表现更优，在基准引文网络上优于 t-SNE 和 tsNET。

ABSTRACT

We present GraphTSNE, a novel visualization technique for graph-structured data based on t-SNE. The growing interest in graph-structured data increases the importance of gaining human insight into such datasets by means of visualization. Among the most popular visualization techniques, classical t-SNE is not suitable on such datasets because it has no mechanism to make use of information from the graph structure. On the other hand, visualization techniques which operate on graphs, such as Laplacian Eigenmaps and tsNET, have no mechanism to make use of information from node features. Our proposed method GraphTSNE produces visualizations which account for both graph structure and node features. It is based on scalable and unsupervised training of a graph convolutional network on a modified t-SNE loss. By assembling a suite of evaluation metrics, we demonstrate that our method produces desirable visualizations on three benchmark datasets.

研究动机与目标

• 解决现有可视化方法无法联合建模图结构与节点特征的局限性。
• 开发一种可扩展的无监督可视化技术，专为具有高维节点特征的图结构数据设计。
• 将图连通性（通过最短路径距离）与节点特征相似性（通过欧氏距离）整合进基于 t-SNE 的统一优化框架。
• 使用可信度、可视化距离和 1-NN 准确率指标，在真实世界图数据集上评估该方法的有效性。
• 通过加权损失组合确定图与特征聚类之间的最优平衡，利用综合指标表现选择 α∗。

提出的方法

• GraphTSNE 使用两层残差门控 GCN 从高维节点特征 X 和图结构 G 学习低维嵌入 Y。
• 模型通过修改后的 t-SNE 损失进行训练，该损失由两个子损失组成：基于最短路径距离 DG 的图聚类损失 CG，以及基于欧氏距离 DX 的特征聚类损失 CX。
• 总损失为加权组合 CT = αCG + (1−α)CX，其中 α 控制保留图结构与特征相似性之间的权衡。
• 通过最小化组合距离度量 (PG + PX) 或最大化 1-NN 通用准确率，使用无类别标签的验证策略选择最优 α∗。
• 为降低计算成本，训练期间应用邻居子采样（NS），使每个节点的感受野为 150，从而支持小批量随机梯度下降。
• 该方法设计为归纳式，未来可扩展至动态或更大规模图。

实验结果

研究问题

• RQ1 可视化方法能否在低维嵌入中有效保留图结构与节点特征？
• RQ2 图聚类与特征聚类之间的平衡如何影响可视化质量与下游性能？
• RQ3 在 t-SNE 框架中结合图论距离与基于特征的距离，是否能实现比现有方法更优的聚类与结构保持？
• RQ4 在多个评估指标上最大化可视化保真度的最优权衡超参数 α 是什么？
• RQ5 GraphTSNE 是否能在具有高维特征的图结构数据集上优于 t-SNE 和 tsNET？

主要发现

• GraphTSNE 通过联合建模图结构与节点特征，在 CORA、Citeseer 和 Pubmed 引文网络上实现了更优的可视化质量。
• 在最优 α∗ 下，GraphTSNE 在 Citeseer 上的组合距离度量 (PG + PX) 为 1.421，在 Cora 上为 1.920，在 Pubmed 上为 0.902，表明图与特征关系均得到良好保持。
• 在 α∗ 下，1-NN 通用准确率达到 Pubmed 的 0.750 和 Cora 的 0.775，表明分类可分性得到改善。
• 在 α∗ 下的可视化结果相比纯 t-SNE（α=0）和纯图聚类（α=1）展现出更优的类别分离与结构保真度，经定性比较验证。
• 该方法在可信度与可视化距离指标上均优于 t-SNE 和 tsNET，证实其在保持局部与全局数据结构方面的能力。
• 邻居子采样可实现 O(N²) 复杂度下的高效训练，未来工作计划通过基于树的近似方法将其扩展至 O(N log N)。