[论文解读] A Performance-Explainability Framework to Benchmark Machine Learning Methods: Application to Multivariate Time Series Classifiers

Kevin Fauvel, Véronique Masson+1 more|arXiv (Cornell University)|May 29, 2020

Explainable Artificial Intelligence (XAI)被引用 8

一句话总结

本文提出了一种性能-可解释性框架，用于基准测试机器学习方法，重点针对多变量时间序列（MTS）分类器。该框架在性能、可解释性特征（例如，忠实性、可理解性、粒度）方面对方法进行了评估，发现尽管MLSTM-FCN结合SHAP在性能和广泛的解释粒度方面表现优异，但其基于代理模型的解释仍不完美——凸显了对新型模型的需求，以在高性能与忠实、信息丰富的解释之间实现平衡。

ABSTRACT

Our research aims to propose a new performance-explainability analytical framework to assess and benchmark machine learning methods. The framework details a set of characteristics that systematize the performance-explainability assessment of existing machine learning methods. In order to illustrate the use of the framework, we apply it to benchmark the current state-of-the-art multivariate time series classifiers.

研究动机与目标

• 为解决机器学习方法在性能与可解释性方面缺乏标准化评估框架的问题。
• 通过定义可度量的特征（如忠实性、可理解性、解释粒度）来系统化可解释性的评估。
• 利用该框架对最先进多变量时间序列分类器进行基准测试，以识别其优势、局限性及研究空白。
• 指导新型MTS分类器的设计，使其在实现高性能的同时提供忠实、信息丰富且用户可访问的解释。
• 支持监管和应用驱动的可解释人工智能需求，特别是在医疗保健和自然灾害监测等领域的应用。

提出的方法

• 该框架定义了一组可解释性特征：性能（相对准确率）、忠实性（解释是否准确反映模型决策）、可理解性（模型透明度，例如白盒与黑盒）、粒度（局部或全局解释）、信息类型（解释的内容类型，例如特征、时间窗口）以及用户（解释的目标受众）。
• 该框架应用于35个公开的MTS数据集，对比了最先进分类器：DTW I、MLSTM-FCN和WEASEL+MUSE。
• 对于黑盒模型（MLSTM-FCN、WEASEL+MUSE），采用SHAP进行事后、模型无关的可解释性分析，生成基于特征和时间的解释。
• 根据解释的忠实性（完美 vs. 不完美）、可理解性（白盒 vs. 黑盒）以及信息内容（例如，仅特征 vs. 时间序列）对解释进行评估。
• 该框架支持跨模型的比较评估，识别性能与可解释性质量之间的权衡。
• 该框架设计为可扩展，不受内存或运行时等实现因素的限制。

实验结果

研究问题

• RQ1 如何定义一组标准化的特征，以评估机器学习模型的性能与可解释性？
• RQ2 多变量时间序列分类器在预测性能与解释质量之间存在哪些关键权衡？
• RQ3 不同可解释性方法（例如SHAP）如何影响黑盒模型中解释的忠实性与可理解性？
• RQ4 哪些MTS分类器能为领域专家提供最具信息量和可信度的解释？
• RQ5 应遵循哪些设计原则来开发新型MTS分类器，以在高性能与忠实、全面的解释之间实现平衡？

主要发现

• 在35个公开数据集上，MLSTM-FCN在所评估的MTS分类器中表现最佳，平均准确率优于WEASEL+MUSE和DTW I。
• DTW I是一种白盒模型，具有完美的忠实性与局部粒度，其解释对领域专家而言清晰可靠。
• MLSTM-FCN结合SHAP在解释的信息内容（特征与时间）和完整粒度（局部与全局）方面与DTW I相当，但由于其代理模型方法，忠实性存在缺陷。
• WEASEL+MUSE结合SHAP的解释质量与MLSTM-FCN结合SHAP相当，但整体性能较低，因此在实践中不具优势。
• 该框架揭示，当前最先进模型的解释在既高度忠实又超越特征-时间贡献的信息方面仍显不足，表明存在研究空白。
• 最近提出的MTS分类器XEM在性能最佳且忠实性较高，同时能识别出判别性时间窗口（信息类型：Uni Sequences），但其解释仍局限于局部粒度，若能结合多序列模式检测，可进一步提升。