[论文解读] EmbeddingVis: A Visual Analytics Approach to Comparative Network Embedding Inspection

Quan Li, Kristanto Sean Njotoprawiro+4 more|arXiv (Cornell University)|Aug 28, 2018

Complex Network Analysis Techniques参考文献 41被引用 4

一句话总结

EmbeddingVis 是一个可视化分析系统，支持在聚类、实例和结构三个层面，对多个模型的网络嵌入向量进行对比检查。它集成了交互式视图——控制面板、图视图、聚类过渡视图、成对排序视图和结构视图，以揭示不同嵌入模型如何保留节点度量特征，专家反馈证实其在揭示嵌入与网络特征之间关系方面的有效性。

ABSTRACT

Constructing latent vector representation for nodes in a network through embedding models has shown its practicality in many graph analysis applications, such as node classification, clustering, and link prediction. However, despite the high efficiency and accuracy of learning an embedding model, people have little clue of what information about the original network is preserved in the embedding vectors. The abstractness of low-dimensional vector representation, stochastic nature of the construction process, and non-transparent hyper-parameters all obscure understanding of network embedding results. Visualization techniques have been introduced to facilitate embedding vector inspection, usually by projecting the embedding space to a two-dimensional display. Although the existing visualization methods allow simple examination of the structure of embedding space, they cannot support in-depth exploration of the embedding vectors. In this paper, we design an exploratory visual analytics system that supports the comparative visual interpretation of embedding vectors at the cluster, instance, and structural levels. To be more specific, it facilitates comparison of what and how node metrics are preserved across different embedding models and investigation of relationships between node metrics and selected embedding vectors. Several case studies confirm the efficacy of our system. Experts' feedback suggests that our approach indeed helps them better embrace the understanding of network embedding models.

研究动机与目标

• 解决由于抽象的高维向量表示和随机训练过程导致的网络嵌入模型缺乏透明性问题。
• 支持对不同嵌入模型如何保留节点级度量（如中心性、聚类性和邻域结构）进行深入、交互式的探索。
• 通过在多个协调视图中链接节点和度量，使用户能够跨模型比较嵌入结果。
• 通过可视化检查保留的结构和度量特性，促进专家对嵌入行为的理解。
• 提供一个可扩展的交互式框架，支持对嵌入空间进行迭代式、基于假设的探索。

提出的方法

• 设计一个包含五个核心组件的多视图可视化分析系统：控制面板、图视图、聚类过渡视图、成对排序视图和结构视图。
• 使用基于套索的选择方式在不同嵌入空间中突出显示对应节点，实现跨模型的聚类级比较。
• 为选定的“枢纽”节点在不同嵌入空间（如 DeepWalk、struc2vec、node2vec）中生成并显示四个邻居排名列表，以比较邻域保留情况。
• 集成过滤机制，在聚类过渡视图中突出显示每个排名列表中的节点，实现实时比较节点分布。
• 可视化不同嵌入空间中相邻节点之间的欧氏距离，以评估结构保真度和稳定性。
• 利用 t-SNE 将高维嵌入投影到二维空间，并在前端交互式地可视化其迭代过程。

实验结果

研究问题

• RQ1 用户如何有效比较不同网络嵌入模型在节点级度量（如中心性、聚类性和邻域结构）上的保留情况？
• RQ2 哪些交互式可视化设计模式最能支持在聚类、实例和结构层面上对嵌入向量进行对比探索？
• RQ3 不同嵌入模型（如 DeepWalk、struc2vec、node2vec）在实例层面上如何保留或扭曲关键网络度量？
• RQ4 可视化分析在多大程度上能够减轻实践者在解释嵌入结果时的试错负担？
• RQ5 如何使系统具备通用性，以支持除演示模型外的自定义度量和额外嵌入模型？

主要发现

• 专家表示，EmbeddingVis 能够实现节点和聚类在不同嵌入空间中的直观、互联探索，显著降低了手动比较的认知负荷。
• 系统的协调视图使用户能够更有效地识别哪些嵌入模型更优地保留了特定度量（如邻域结构或中心性），优于传统二维投影。
• 聚类过渡视图有效揭示了不同嵌入模型之间节点分布的差异，视觉提示突出了被保留或扭曲的关系。
• 成对排序视图使用户能够直接比较邻居列表，揭示 struc2vec 的距离模式相比 DeepWalk 和 node2vec 更具波动性。
• 专家强调，该系统在揭示嵌入向量与底层网络度量之间隐藏关系方面具有显著价值，称之为一种“新颖且高度交互”的方法。
• 通过后端处理 t-SNE 并迁移至基于 WebGL 的渲染，系统展示了在处理更大网络时的可扩展潜力。