[论文解读] On the Explanation of Machine Learning Predictions in Clinical Gait Analysis

Djordje Slijepčević, Fabian Horst+7 more|arXiv (Cornell University)|Dec 16, 2019

Anomaly Detection Techniques and Applications参考文献 61被引用 5

一句话总结

本研究探讨了可解释人工智能（XAI）方法——特别是逐层显著性传播（LRP）——在基于地面反作用力（GRF）信号的临床步态分析中解释机器学习预测的应用。结果表明，LRP生成的解释在统计上具有区分性且具有临床意义，数据归一化显著提升了多种步态障碍分类任务中模型的可解释性与性能。

ABSTRACT

Machine learning (ML) is increasingly used to support decision-making in the healthcare sector. While ML approaches provide promising results with regard to their classification performance, most share a central limitation, namely their black-box character. Motivated by the interest to understand the functioning of ML models, methods from the field of Explainable Artificial Intelligence (XAI) have recently become important. This article investigates the usefulness of XAI methods in clinical gait classification. For this purpose, predictions of state-of-the-art classification methods are explained with an established XAI method, i.e., Layer-wise Relevance Propagation (LRP). We propose to evaluate the obtained explanations with two complementary approaches: a statistical analysis of the underlying data using Statistical Parametric Mapping and a qualitative evaluation by a clinical expert. A gait dataset comprising ground reaction force measurements from 132 patients with different lower-body gait disorders and 62 healthy controls is utilized. We investigate several gait classification tasks, employ multiple classification methods, and analyze the impact of data normalization and different signal components for classification performance and explanation quality. Our experiments show that explanations obtained by LRP exhibit promising statistical properties concerning inter-class discriminativity and are also in line with clinically relevant biomechanical gait characteristics.

研究动机与目标

• 评估基于XAI方法生成的机器学习步态分类预测解释在临床上的相关性与统计有效性。
• 研究数据归一化对GRF信号分析中分类性能与解释质量的影响。
• 评估LRP解释是否能识别出步态信号中具有生物力学意义的区域，特别是在受损与未受损肢体之间。
• 比较统计参数映射（SPM）与专家评估作为验证LRP解释的互补方法。
• 确定模型中冗余或过完备的特征学习是否影响解释的可解释性与鲁棒性。

提出的方法

• 采用最先进的深度学习模型（如卷积神经网络）对132名患者与62名健康对照者的GRF信号进行二分类步态分类。
• 应用逐层显著性传播（LRP）为每个模型预测生成局部、输入信号级别的解释。
• 使用统计参数映射（SPM）对LRP提取的相关信号区域在患者组与对照组之间的区分能力进行统计验证。
• 通过临床专家进行定性评估，判断LRP解释是否与已知的生物力学步态特征一致。
• 系统评估数据归一化对模型性能与解释保真度的影响，尤其针对GRF各分量（垂直、前后、矢状面）的影响。
• 通过遮蔽特定信号分量（如水平力）进行消融研究，评估所学表征中特征重要性与冗余性。

实验结果

研究问题

• RQ1 LRP为步态分类中机器学习预测生成的解释在多大程度上与临床上相关的生物力学模式一致？
• RQ2 数据归一化在多大程度上影响GRF基础步态分类中LRP解释的质量与可靠性？
• RQ3 LRP识别出的区域是否在统计上显著地区分不同类型的步态障碍与健康对照？
• RQ4 SPM能否作为时间序列生物医学数据中验证LRP解释的稳健统计参考？
• RQ5 机器学习模型在步态信号分类中在多大程度上依赖于冗余或过完备的特征表征？

主要发现

• LRP解释在受损与未受损肢体中均识别出高度相关的信号区域，表明未受损侧在分类决策中具有显著贡献。
• 统计参数映射（SPM）证实，LRP提取的相关区域在患者组与对照组之间具有显著差异，支持其统计有效性。
• 数据归一化至关重要：未经归一化时，模型仅在垂直GRF分量中识别出特征，这在临床上不成立；而归一化使模型能够检测到所有三个GRF分量中的相关特征。
• 遮蔽水平力分量对分类准确率影响可忽略，表明模型学习到了冗余或过完备的步态特征表征。
• 无论是否进行归一化，分类性能均保持较高水平，进一步表明所学特征具有鲁棒性与潜在冗余性。
• 临床专家确认，LRP解释与已知的生物力学步态特征一致，增强了临床应用中的信任度与可解释性。