[論文レビュー] MSW-Transformer: Multi-Scale Shifted Windows Transformer Networks for 12-Lead ECG Classification

Renjie Cheng, Zhemin Zhuang+3 more|arXiv (Cornell University)|Jun 21, 2023

ECG Monitoring and Analysis被引用数 7

ひとこと要約

本論文では、学習可能な特徴融合を用いたマルチスケールシフトドウインドウを備えた軽量で単層のTransformerアーキテクチャ、MSW-Transformerを提案する。このモデルは、12 lead ECG分類の性能を向上させ、PTBXL-2020データセットで最先端の性能を達成し、スーパクラスで77.85%、サンプルで81.26%のマクロF1スコアを記録した。また、注目メカニズムの可視化により解釈可能性も向上させた。

ABSTRACT

Automatic classification of electrocardiogram (ECG) signals plays a crucial role in the early prevention and diagnosis of cardiovascular diseases. While ECG signals can be used for the diagnosis of various diseases, their pathological characteristics exhibit minimal variations, posing a challenge to automatic classification models. Existing methods primarily utilize convolutional neural networks to extract ECG signal features for classification, which may not fully capture the pathological feature differences of different diseases. Transformer networks have advantages in feature extraction for sequence data, but the complete network is complex and relies on large-scale datasets. To address these challenges, we propose a single-layer Transformer network called Multi-Scale Shifted Windows Transformer Networks (MSW-Transformer), which uses a multi-window sliding attention mechanism at different scales to capture features in different dimensions. The self-attention is restricted to non-overlapping local windows via shifted windows, and different window scales have different receptive fields. A learnable feature fusion method is then proposed to integrate features from different windows to further enhance model performance. Furthermore, we visualize the attention mechanism of the multi-window shifted mechanism to achieve better clinical interpretation in the ECG classification task. The proposed model achieves state-of-the-art performance on five classification tasks of the PTBXL-2020 12-lead ECG dataset, which includes 5 diagnostic superclasses, 23 diagnostic subclasses, 12 rhythm classes, 17 morphology classes, and 44 diagnosis classes, with average macro-F1 scores of 77.85%, 47.57%, 66.13%, 34.60%, and 34.29%, and average sample-F1 scores of 81.26%, 68.27%, 91.32%, 50.07%, and 63.19%, respectively.

研究の動機と目的

• ECGシグナルにおける微細な病理的特徴の差が小さいという課題に対処する。
• 畳み込みニューラルネットワーク（CNNs）や標準的なTransformerが、微細なECG変動を捉えることや、長時間系列データを処理することに制限を受ける問題を克服する。
• 計算コストを低減し、臨床現場への導入に適した、軽量で効率的なTransformerモデルを開発する。
• 臨床的診断基準と整合する注目メカニズムの可視化を通じて、モデルの解釈可能性を向上させる。
• 最小限のパラメータで、マルチクラス12 lead ECG分類タスクにおいて最先端の性能を達成する。

提案手法

• 自己注意を異なるスケールの重複のない局所的ウィンドウに制限することで、階層的な特徴を捉えるマルチスケールシフトドウインドウ機構を提案する。
• シフトドウインドウを用いることで、ウィンドウ間の情報伝達を可能にしつつ、局所的注意の効率性を維持し、計算コストを低減する。
• 複数のウィンドウスケールからの注意出力を統合する学習可能な特徴融合モジュールを導入し、表現学習を強化する。
• 位置エンコーディングを用いた単一層のTransformerブロックを採用し、12 lead ECGシーケンスにおける長距離依存関係をモデル化する。
• 異なるウィンドウスケールにおける注目スコアを可視化し、臨床的診断基準と照らし合わせて解釈可能性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 マルチスケールシフトドウインドウを備えた単一層のTransformerは、より深いまたはより複雑なモデルを上回る性能を示せるか？
• RQ2 マルチスケールウィンドウ機構は、微細な病理的差異を示すECGシグナルの特徴抽出をどのように向上させるか？
• RQ3 固定の連結や平均化と比較して、学習可能な特徴融合はどの程度モデル性能を向上させるか？
• RQ4 MSW-Transformerの注目メカニズムは、臨床的診断基準と整合する意味のある解釈が可能か？
• RQ5 特にレアなまたは臨床的に類似した心律不整脈に対して、モデルはデータの不均衡に起因する性能低下を示さないか？

主な発見

• MSW-Transformerは、PTBXL-2020データセットにおいて、5つの診断スーパクラスで77.85%、23のサブクラスで47.57%、12のリズムクラスで66.13%、17のモルフォロジークラスで34.60%、44の診断クラスで34.29%のマクロF1スコアを達成した。
• サンプルF1スコアはそれぞれ81.26%、68.27%、91.32%、50.07%、63.19%であり、バランスの取れたクラスおよび不均衡なクラスの両方で優れた性能を示した。
• 混同行列から、ノーマル（89.13%マクロF1）、CLBBB（90.00%）、SR（95.96%）、STACH（92.62%）といった一般的なクラスでは高い正確性が確認され、誤分類率が低かった。
• データの不均衡にもかかわらず、一般的なECGパターンの区別には高い耐性を示したが、ISCA、NST、LAFB/LPFBといったレアなラベルでは、類似性のため性能が低下した。
• 注目可視化により、モデルが臨床的診断基準と一致するECGセグメント（例：STセグメント、QRS複合波）に注目していることが確認され、解釈可能性が向上した。
• 標準的なTransformerと比較して、パラメータ数が少なく、推論速度も速いため、実臨床現場への導入に適している。