[论文解读] Interactive Visual Data Exploration with Subjective Feedback: An Information-Theoretic Approach

Kai Puolamäki, Emilia Oikarinen+3 more|arXiv (Cornell University)|Oct 23, 2017

Data Visualization and Analytics参考文献 48被引用 5

一句话总结

本文提出了一种交互式、基于信息论的可视化探索性数据分析（EDA）框架，利用主观用户反馈动态引导数据投影选择。通过将用户识别的模式建模为约束以计算最大熵分布，系统突出显示数据与背景分布差异最大的投影，从而揭示在标准视图中不可见的新型、信息丰富的结构——在合成数据和真实世界数据中均通过原型系统得到有效验证。

ABSTRACT

Visual exploration of high-dimensional real-valued datasets is a fundamental task in exploratory data analysis (EDA). Existing methods use predefined criteria to choose the representation of data. There is a lack of methods that (i) elicit from the user what she has learned from the data and (ii) show patterns that she does not know yet. We construct a theoretical model where identified patterns can be input as knowledge to the system. The knowledge syntax here is intuitive, such as "this set of points forms a cluster", and requires no knowledge of maths. This background knowledge is used to find a Maximum Entropy distribution of the data, after which the system provides the user data projections in which the data and the Maximum Entropy distribution differ the most, hence showing the user aspects of the data that are maximally informative given the user's current knowledge. We provide an open source EDA system with tailored interactive visualizations to demonstrate these concepts. We study the performance of the system and present use cases on both synthetic and real data. We find that the model and the prototype system allow the user to learn information efficiently from various data sources and the system works sufficiently fast in practice. We conclude that the information theoretic approach to exploratory data analysis where patterns observed by a user are formalized as constraints provides a principled, intuitive, and efficient basis for constructing an EDA system.

研究动机与目标

• 解决降维方法中静态预定义标准的局限性，这些标准可能遗漏用户关注的模式。
• 使用户能够以直观、无需数学知识的方式表达其观察到的知识（例如聚类）。
• 利用最大熵原理动态更新系统的信念状态，以指导下一次最具信息量的可视化。
• 创建一种交互式EDA系统，适应用户理解而非依赖于高方差等固定启发式方法。

提出的方法

• 系统将用户当前的知识建模为受用户识别模式（例如“这组点是一个聚类”）约束的最大熵分布。
• 使用投影追踪寻找数据与背景分布之间Kullback-Leibler散度最大的二维投影。
• 用户在可视化投影中迭代标记模式，这些模式随后被形式化为约束以更新背景分布。
• 该过程持续进行，直到数据与背景分布相似，表明不再可见新的结构。
• 该方法基于信息论，使用指数族分布（特别是多元高斯分布）以实现可计算性。
• 该系统已实现为名为SIDER的开源工具，支持与高维数据的实时交互。

实验结果

研究问题

• RQ1 如何将关于观察到模式的主观用户反馈形式化为计算模型，以指导数据可视化？
• RQ2 基于最大熵的信息论框架能否有效优先选择揭示最多新颖、信息丰富结构的投影？
• RQ3 与标准自动化方法相比，用户知识的整合如何提升探索性数据分析的效率和相关性？
• RQ4 该系统在保持交互性能的前提下，能否扩展到真实世界、高维数据集？
• RQ5 与PCA等静态可视化标准相比，该系统对用户知识的动态适应性如何？

主要发现

• 该系统成功揭示了在标准PCA投影中不可见的合成数据中的隐藏聚类，例如三维空间中重叠的小聚类。
• 原型系统SIDER展示了实际性能，可扩展至包含数万行数据的集，包括真实的流式细胞术数据。
• 用户通过迭代标记结构，高效地发现了新型模式，系统始终基于信息论标准选择具有信息量的投影。
• 该方法通过聚焦于用户相关且非显而易见的结构而非仅高方差分量，优于静态方法如PCA。
• 通过直观的模式标记方式整合用户反馈，显著提升了探索过程的相关性和效率。