[论文解读] A Survey of Visual Analytics Techniques for Machine Learning

Jun Yuan, Changjian Chen+4 more|ArXiv.org|Aug 21, 2020

Data Visualization and Analytics参考文献 281被引用 13

一句话总结

本文对机器学习的可视化分析技术进行了全面综述，将259项研究按模型构建前、中、后三个阶段进行组织。提出了一个结构化的分类体系，突出显示了数据质量提升、模型诊断和概念漂移分析等关键任务，并识别出六个未来研究方向，以增强机器学习流程中的可解释性、信任度和可用性。

ABSTRACT

Visual analytics for machine learning has recently evolved as one of the most exciting areas in the field of visualization. To better identify which research topics are promising and to learn how to apply relevant techniques in visual analytics, we systematically review 259 papers published in the last ten years together with representative works before 2010. We build a taxonomy, which includes three first-level categories: techniques before model building, techniques during model building, and techniques after model building. Each category is further characterized by representative analysis tasks, and each task is exemplified by a set of recent influential works. We also discuss and highlight research challenges and promising potential future research opportunities useful for visual analytics researchers.

研究动机与目标

• 为机器学习整个生命周期中的可视化分析技术提供系统化、全面的综述。
• 识别并分类过去十年中机器学习可视化分析的关键研究趋势和代表性工作。
• 突出显示在提升模型可解释性、数据质量和系统可用性方面尚未充分探索的研究方向和开放挑战。
• 支持研究人员和从业者理解可视化如何增强机器学习工作流中的信任度、可靠性和可解释性。
• 基于机器学习生命周期建立分类体系，涵盖模型构建前、中、后阶段，并提供任务导向的示例。

提出的方法

• 对2010至2020年间发表于顶级可视化会议（如InfoVis、VAST、IEEE TVCG、SciVis）的259篇论文进行了系统性人工审查。
• 将可视化分析技术划分为三个阶段：模型构建前（数据与特征质量）、模型构建中（模型诊断与引导）、模型构建后（模型与数据理解）。
• 从每个阶段中抽象出代表性分析任务，如数据质量评估、特征选择、模型解释和概念漂移检测。
• 选取具有影响力的代表性工作以说明各项任务，重点突出交互式与可解释性可视化技术。
• 整合先前综述和本体论研究的见解，以完善分类体系，确保涵盖多模态学习和在线概念漂移等新兴趋势。
• 通过综合分析现有文献中的重复挑战与研究空白，识别出六个关键未来研究方向。

实验结果

研究问题

• RQ1 可视化分析技术如何在机器学习模型训练前提升数据与特征质量？
• RQ2 哪些可视化策略能够支持模型训练过程中的实时诊断、解释与交互式优化？
• RQ3 可视化分析如何促进对模型行为与数据关系的理解，特别是在多模态数据等复杂场景下？
• RQ4 在流式机器学习应用中，检测与分析概念漂移的关键挑战是什么？可视化如何支持人机协同诊断？
• RQ5 将可视化分析与机器学习深度融合以提升可解释性与可靠性的最有前景的未来研究方向是什么？

主要发现

• 本综述从顶级可视化会议中识别出259篇相关论文，为理解机器学习中的可视化分析奠定了全面基础。
• 三阶段分类体系（模型构建前、中、后）有效组织了机器学习生命周期中的可视化分析技术。
• 模型构建前的关键任务包括数据质量评估、缺失数据处理和特征选择，可视化支持直观的数据检查与标注修正。
• 在模型构建阶段，可视化分析通过交互式可视化界面支持模型诊断、超参数调优以及对深度神经网络等复杂模型的解释。
• 模型构建后的分析包括理解模型预测、检测数据漂移以及解释多模态数据关系，可视化支持随时间变化的数据分布对比分析。
• 识别出六个主要未来研究方向：提升弱监督学习中的数据质量、实现在线模型诊断、支持智能模型优化、增强多模态数据理解、实现人机协同的概念漂移分析，以及开发用于联合多模态表示的统一可视化。