[论文解读] Embedding Projector: Interactive Visualization and Interpretation of Embeddings

Daniel Smilkov, Nikhil Thorat+4 more|arXiv (Cornell University)|Nov 16, 2016

Data Visualization and Analytics参考文献 7被引用 154

一句话总结

一个基于网络的交互式工具，用于可视化与解释高维嵌入，支持局部邻域探索、全局几何查看，以及发现有意义的方向，具备 PCA、t-SNE 和自定义投影，并与 TensorFlow 集成。

ABSTRACT

Embeddings are ubiquitous in machine learning, appearing in recommender systems, NLP, and many other applications. Researchers and developers often need to explore the properties of a specific embedding, and one way to analyze embeddings is to visualize them. We present the Embedding Projector, a tool for interactive visualization and interpretation of embeddings.

研究动机与目标

• 提供一个用于高维嵌入的交互式可视化平台。
• 使局部邻域和全局几何的探索成为可能，以建立对模型的信任。
• 支持在嵌入空间内发现语义上有意义的方向。
• 与 TensorFlow 集成，便于可视化张量和模型检查点。
• 通过可分享的可视化状态促进协作。

提出的方法

• 基于网络的 Embedding Projector，具备 2D/3D 视图和 WebGL，以实现流畅交互。
• 三维降维选项：PCA（前 10 个分量）和 t-SNE（2D/3D）。
• 通过文本搜索或正则匹配的质心差异，由用户自定义方向实现自定义线性投影。
• 链接视图：数据面板、投影面板，以及带最近邻和搜索的检查器。
• 选择工具用于隔离子集并重新投影以进行聚焦分析。
• 通过可分享的状态文件进行协作，文件包含嵌入坐标和书签。

实验结果

研究问题

• RQ1 用户如何在高维嵌入中有效地探索某一点周围的局部邻域？
• RQ2 使用降维在嵌入中可观察到哪些全局几何结构和簇？
• RQ3 用户是否能够通过简单的启发式投影，在嵌入空间中识别出有意义的方向向量？
• RQ4 交互式可视化工具如何帮助提升对机器学习嵌入的信任与解读？
• RQ5 该工具如何与 TensorFlow 集成，以可视化模型检查点和张量？

主要发现

• Embedding Projector 提供带有流畅 WebGL 性能的交互式 2D/3D 可视化。
• 它通过最近邻列表和交互式选择工具支持局部邻域探索。
• 它提供多种视图（PCA、t-SNE）以检查全局几何与簇。
• 用户可以通过指定搜索词来创建自定义投影轴，从而揭示有意义的方向。
• 该工具与 TensorFlow 集成，允许可视化来自模型检查点的嵌入。
• 通过可书签化的视图配置，支持协作共享可视化状态。