[论文解读] Towards a Rigorous Evaluation of Explainability for Multivariate Time Series

Rohit Saluja, Avleen Malhi+3 more|arXiv (Cornell University)|Apr 6, 2021

Explainable Artificial Intelligence (XAI)被引用 8

一句话总结

本文提出并评估了LIME和SHAP作为多变量时间序列预测的模型无关可解释性技术，通过用户评估表明，两种方法均显著提升了非专业人士对模型预测的理解。研究发现LIME略优于SHAP，且解释内容增强了在实际销售预测用例中的信任度与可解释性。

ABSTRACT

Machine learning-based systems are rapidly gaining popularity and in-line with that there has been a huge research surge in the field of explainability to ensure that machine learning models are reliable, fair, and can be held liable for their decision-making process. Explainable Artificial Intelligence (XAI) methods are typically deployed to debug black-box machine learning models but in comparison to tabular, text, and image data, explainability in time series is still relatively unexplored. The aim of this study was to achieve and evaluate model agnostic explainability in a time series forecasting problem. This work focused on proving a solution for a digital consultancy company aiming to find a data-driven approach in order to understand the effect of their sales related activities on the sales deals closed. The solution involved framing the problem as a time series forecasting problem to predict the sales deals and the explainability was achieved using two novel model agnostic explainability techniques, Local explainable model-agnostic explanations (LIME) and Shapley additive explanations (SHAP) which were evaluated using human evaluation of explainability. The results clearly indicate that the explanations produced by LIME and SHAP greatly helped lay humans in understanding the predictions made by the machine learning model. The presented work can easily be extended to any time

研究动机与目标

• 为解决多变量时间序列中可解释性缺乏严谨评估方法的问题，特别是预测场景中的问题。
• 将模型无关的可解释性技术——LIME和SHAP——应用于一家数字咨询公司的实际销售预测问题。
• 通过非专业人士参与的用户评估，衡量解释质量，重点关注可解释性与信任度。
• 比较LIME与SHAP在帮助非专家理解时间序列上下文中的模型预测方面的有效性。
• 建立一个可推广至其他预测与分类任务的时间序列可解释性评估框架。

提出的方法

• 将销售预测问题建模为使用历史销售与活动数据的多变量时间序列回归任务。
• 应用局部可解释模型无关解释（LIME）为单个预测生成局部特征重要性解释。
• 使用基于博弈论原理的分而治之解释（SHAP）计算特征归因，实现局部可解释性。
• 设计一项包含60名非专业人士参与者（每种情况20人）的人工评估研究，通过验证任务评估解释质量。
• 根据用户理解程度、信任度与偏好评估解释，同时收集定性反馈与定量指标。
• 将解释复杂度限制在前五个最重要的特征，以减轻认知负荷并确保清晰度。

Figure 1: Role of explainability in time series forecasting

实验结果

研究问题

• RQ1 LIME与SHAP在提升非专业人士对时间序列预测模型预测结果理解方面有多有效？
• RQ2 在非专业用户中，LIME与SHAP哪种解释方法能带来更好的理解与更高的信任度？
• RQ3 解释的复杂度（如特征数量）如何影响人类的理解与评估？
• RQ4 对可解释性的用户评估能否作为时间序列预测中解释质量评估的可靠代理？
• RQ5 所提出的框架在多大程度上可推广至其他时间序列预测或分类任务？

主要发现

• LIME与SHAP均显著提升了非专业人士对时间序列预测模型预测结果的理解与信任度。
• 参与者表示，解释帮助他们识别出哪些销售活动对预测的成交数量影响最大。
• 在用户评估中，LIME略优于SHAP，但差异微小且因样本量较小未获统计显著性确认。
• 用户评估显示，解释提升了用户对模型输出的信心，支持在实际决策中应用XAI。
• 本研究证明，模型无关的可解释性技术在多变量时间序列预测中有效且适用，不仅限于表格数据或图像数据。
• 该框架可扩展至其他XAI方法（如ELI5与CIU），并可适配分类任务，或通过领域专家开展应用导向的评估。

Figure 2: Average perspiration in a country against year [ 2 ] .