[论文解读] AQEyes: Visual Analytics for Anomaly Detection and Examination of Air Quality Data

Dongyu Liu, Kalyan Veeramachaneni+3 more|arXiv (Cornell University)|Mar 24, 2021

Data Visualization and Analytics参考文献 43被引用 6

一句话总结

AQEyes 是一个视觉分析系统，将可调节的端到端机器学习流水线与交互式可视化相结合，用于检测和检查空气质量数据中的异常。它采用基于长短期记忆（LSTM）的无监督异常检测方法，无需标注样本即可处理缺失和格式不一致的数据，从而实现在多个监测站和时间粒度下高效、可解释且可扩展的分析。

ABSTRACT

Anomaly detection plays a key role in air quality analysis by enhancing situational awareness and alerting users to potential hazards. However, existing anomaly detection approaches for air quality analysis have their own limitations regarding parameter selection (e.g., need for extensive domain knowledge), computational expense, general applicability (e.g., require labeled data), interpretability, and the efficiency of analysis. Furthermore, the poor quality of collected air quality data (inconsistently formatted and sometimes missing) also increases the difficulty of analysis substantially. In this paper, we systematically formulate design requirements for a system that can solve these limitations and then propose AQEyes, an integrated visual analytics system for efficiently monitoring, detecting, and examining anomalies in air quality data. In particular, we propose a unified end-to-end tunable machine learning pipeline that includes several data pre-processors and featurizers to deal with data quality issues. The pipeline integrates an efficient unsupervised anomaly detection method that works without the use of labeled data and overcomes the limitations of existing approaches. Further, we develop an interactive visualization system to visualize the outputs from the pipeline. The system incorporates a set of novel visualization and interaction designs, allowing analysts to visually examine air quality dynamics and anomalous events in multiple scales and from multiple facets. We demonstrate the performance of this pipeline through a quantitative evaluation and show the effectiveness of the visualization system using qualitative case studies on real-world datasets.

研究动机与目标

• 解决现有空气质量分析中异常检测方法的局限性，包括对标注数据的依赖、计算成本高以及可解释性差的问题。
• 克服现实空气质量监测系统中常见的数据质量问题，如缺失值和时间粒度不一致。
• 开发一个可扩展且可适应的系统，支持在多个监测站和时间尺度上高效探索和检查异常事件。
• 通过支持多维度、多尺度的异常检查，集成交互式视觉分析以增强分析师的理解和决策能力。
• 提供一个统一的端到端系统，将稳健的机器学习与直观的可视化相结合，适用于环境监测中的实际部署。

提出的方法

• 设计一个统一的端到端机器学习流水线，配备可配置的数据预处理器和特征提取器，以处理缺失数据和不一致的时间粒度。
• 实现一种基于长短期记忆（LSTM）网络的无监督异常检测方法，通过学习动态阈值来检测异常，而无需依赖标注的异常样本。
• 采用误差阈值学习算法，通过测量序列中预测值与实际值之间的偏差来识别异常。
• 集成一个可视化层，包含小倍数图、动态图符和交互式导航，以支持多尺度和多角度的分析。
• 提供交互式反馈机制，允许分析师对检测到的异常进行标记、添加评论并手动修正，以供后续流水线优化。
• 通过颜色编码的视觉编码和同步导航支持多站点的对比分析，同时通过设计启发式方法管理视觉杂乱。

实验结果

研究问题

• RQ1 如何设计一个无监督的机器学习流水线，使其在不依赖标注样本的情况下，能够检测空气质量数据中多样的异常模式？
• RQ2 哪些可视化技术最能支持分析师在多个时间粒度和监测站之间探索和解释异常？
• RQ3 如何在统一的异常检测流水线中有效解决缺失值和时间分辨率不一致等数据质量问题？
• RQ4 交互式视觉分析在多大程度上能提升真实环境监测中异常检测结果的可解释性和可用性？
• RQ5 该系统在支持不同地理位置和时间尺度下空气质量动态的对比分析方面表现如何？

主要发现

• 所提出的机器学习流水线在两个真实世界空气质量数据集上均表现出高检测性能，定量评估证实了其鲁棒性和适应性。
• 可视化系统使专家能够高效地在多个时间尺度上识别和检查异常，领域专家反馈显示其可用性极强。
• 专家报告称，该系统显著提升了他们检测和分析复杂异常类型（而不仅仅是简单阈值超限）的能力。
• 系统提供的交互功能（如动画、导航和标记）受到高度评价，显著增强了探索和报告生成的工作流。
• 案例研究显示，AQEyes 支持对局部异常的详细检查，也支持跨站点和时间周期的高层次对比分析。
• 在真实部署场景中，系统处理缺失数据和不一致时间粒度而无需数据丢失或预处理瓶颈的能力得到验证。