[论文解读] Towards Meaningful Anomaly Detection: The Effect of Counterfactual Explanations on the Investigation of Anomalies in Multivariate Time Series
本研究表明，基于自编码器的异常检测的反事实解释能提升多变量时间序列的人工异常调查效率与效果，通过对纽约市出租车数据的行为学研究予以验证。
Detecting rare events is essential in various fields, e.g., in cyber security or maintenance. Often, human experts are supported by anomaly detection systems as continuously monitoring the data is an error-prone and tedious task. However, among the anomalies detected may be events that are rare, e.g., a planned shutdown of a machine, but are not the actual event of interest, e.g., breakdowns of a machine. Therefore, human experts are needed to validate whether the detected anomalies are relevant. We propose to support this anomaly investigation by providing explanations of anomaly detection. Related work only focuses on the technical implementation of explainable anomaly detection and neglects the subsequent human anomaly investigation. To address this research gap, we conduct a behavioral experiment using records of taxi rides in New York City as a testbed. Participants are asked to differentiate extreme weather events from other anomalous events such as holidays or sporting events. Our results show that providing counterfactual explanations do improve the investigation of anomalies, indicating potential for explainable anomaly detection in general.
研究动机与目标
- 解释如何帮助随后的异常调查，而不仅仅是检测。
- 评估反事实解释是否提升异常调查表现。
- 评估解释在异常调查过程中是否降低额外的认知负荷。
- 通过人类研究展示反事实解释在多变量时间序列中的适用性。
提出的方法
- 使用 LSTM 层的多变量时间序列可解释自编码器，并以重构误差进行异常检测。
- 在自编码器中扩展一个反事实解释层，以产生适用于 XAI 框架的类别概率。
- 应用 CoMTE 框架生成尽量减少特征变化的反事实解释。
- 设计并进行一项面向对象的在线实验，包含来自 NYC 出租车数据的八个异常示例。
- 将对照条件（不含反事实的 ADS）与反事实解释条件进行比较。
- 衡量有效性（准确性）、效率（任务时间）以及额外的认知负荷。
实验结果
研究问题
- RQ1解释异常检测是否能改善异常调查？
- RQ2反事实解释是否提升异常调查的效率？
- RQ3解释是否降低异常调查过程中的额外认知负荷？
- RQ4认知负荷与调查的有效性和效率之间的关系如何？
主要发现
- 与无解释相比，反事实解释能改善异常调查。
- 该研究共有 66 名参与者（每条件 33 名），每位参与者分析八个异常事件。
- 反事实解释降低了额外认知负荷并促成了调查表现与效率的提升。
- 解释帮助用户定位相关特征并提供关于典型值的上下文，帮助将极端天气事件与假期进行分类。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。