[論文レビュー] On the Explanation of Machine Learning Predictions in Clinical Gait Analysis

Djordje Slijepčević, Fabian Horst+7 more|arXiv (Cornell University)|Dec 16, 2019

Anomaly Detection Techniques and Applications参考文献 61被引用数 5

ひとこと要約

本研究は、歩行分析における機械学習予測を解釈するために、特にレイヤーごとの関連性伝播（LRP）を用いた説明可能AI（XAI）手法を調査する。LRPによる説明が統計的に有意で臨床的に意味のあるものであることを示し、データ正規化が複数の歩行障害分類タスクにおいてモデルの解釈性と性能を著しく向上させることを明らかにした。

ABSTRACT

Machine learning (ML) is increasingly used to support decision-making in the healthcare sector. While ML approaches provide promising results with regard to their classification performance, most share a central limitation, namely their black-box character. Motivated by the interest to understand the functioning of ML models, methods from the field of Explainable Artificial Intelligence (XAI) have recently become important. This article investigates the usefulness of XAI methods in clinical gait classification. For this purpose, predictions of state-of-the-art classification methods are explained with an established XAI method, i.e., Layer-wise Relevance Propagation (LRP). We propose to evaluate the obtained explanations with two complementary approaches: a statistical analysis of the underlying data using Statistical Parametric Mapping and a qualitative evaluation by a clinical expert. A gait dataset comprising ground reaction force measurements from 132 patients with different lower-body gait disorders and 62 healthy controls is utilized. We investigate several gait classification tasks, employ multiple classification methods, and analyze the impact of data normalization and different signal components for classification performance and explanation quality. Our experiments show that explanations obtained by LRP exhibit promising statistical properties concerning inter-class discriminativity and are also in line with clinically relevant biomechanical gait characteristics.

研究の動機と目的

• 機械学習に基づく歩行分類におけるXAI手法が生成する説明の臨床的関連性と統計的妥当性を評価すること。
• データ正規化がGRF信号解析における分類性能と説明品質に与える影響を調査すること。
• LRP説明が、障害を呈する肢と健常な肢の両方において生物学的力学的意味のある領域を特定できるかどうかを評価すること。
• 統計的パラメトリックマッピング（SPM）と専門家評価を、LRP説明の検証に補完的である方法として比較すること。
• モデルにおける重複または過剰な特徴学習が、説明の解釈可能性と耐性に与える影響を同定すること。

提案手法

• 132例の患者と62例の健常対照群のGRF信号を用いて、二値歩行分類を目的とした最先端の深層学習モデル（例：畳み込みニューラルネットワーク）を採用した。
• 各モデル予測のための局所的で入力信号レベルの説明を生成するために、レイヤーごとの関連性伝播（LRP）を適用した。
• SPMを用いて、患者群と対照群の間でLRPで抽出された関連信号領域の判別能を統計的に検証した。
• 臨床専門家の定性的な評価を通じて、LRP説明が既知の生物学的力学的歩行特性と一致するかどうかを評価した。
• データ正規化がモデル性能と説明の忠実度に与える影響を体系的に評価し、特にGRF成分（垂直、前後方向、左右方向）に注目した。
• 特定の信号成分（例：水平方向力）をマスキングすることで、特徴の重要度と学習された表現の冗長性を評価するアブレーションスタディを実施した。

実験結果

リサーチクエスチョン

• RQ1 MLによる歩行分類予測におけるLRP生成説明は、臨床的に関連する生物学的力学的パターンとどの程度一致するか？
• RQ2 データ正規化はGRFベースの歩行分類におけるLRP説明の質と信頼性にどのように影響するか？
• RQ3 LRPが同定した領域は、歩行障害の種類と健常対照群を区別する上で統計的に有意であるか？
• RQ4 時系列バイオメディカルデータにおけるLRP説明の検証に、SPMを強力な統計的基準として用いることができるか？
• RQ5 MLモデルは、歩行信号分類において、どの程度冗長または過剰な特徴表現に依存しているか？

主な発見

• LRP説明は、障害を呈する肢と健常な肢の両方で関連性の高い信号領域を同定しており、健常側の寄与が分類意思決定に意味的に寄与していることを示している。
• 統計的パラメトリックマッピング（SPM）により、LRPで抽出された関連領域が患者群と対照群で顕著に異なることが確認され、その統計的妥当性が裏付けられた。
• データ正規化は不可欠であった：正規化なしでは、モデルは垂直GRF成分でのみ特徴を同定していたが、これは臨床的に不自然であった。正規化により、垂直・前後・左右の3成分すべてで関連する特徴が検出可能となった。
• 水平方向力成分のマスキングは分類精度にほとんど影響を与えず、モデルが歩行特徴の冗長的または過剰な表現を学習している可能性を示唆した。
• 正規化あり・なしの両方のGRF信号において、分類性能は高く維持されたことから、学習された特徴の冗長性と耐性がさらに裏付けられた。
• 臨床専門家は、LRP説明が既知の生物学的力学的歩行特性と一致しており、臨床応用における信頼性と解釈可能性が向上していると確認した。