[論文レビュー] Guiding Masked Representation Learning to Capture Spatio-Temporal Relationship of Electrocardiogram

Yeongyeon Na, Minje Park+2 more|arXiv (Cornell University)|Feb 2, 2024

ECG Monitoring and AnalysisMedicine被引用数 3

ひとこと要約

本稿では、12 lead ECGデータの空間的・時間的パッチを再構成することで、一般化された心電図（ECG）表現を学習する自己教師ありマスク化自己符号化器フレームワーク、ST-MEMを提案する。パッチ化とマスク化再構成を通じて時間的および空間的関係を統合的にモデル化することで、ST-MEMは心室性不整脈分類において最先端の性能を達成し、対照的および生成的自己教師あり学習（SSL）ベースラインを上回り、低リソース設定およびリduced lead設定にも効果的に一般化する。

ABSTRACT

Electrocardiograms (ECG) are widely employed as a diagnostic tool for monitoring electrical signals originating from a heart. Recent machine learning research efforts have focused on the application of screening various diseases using ECG signals. However, adapting to the application of screening disease is challenging in that labeled ECG data are limited. Achieving general representation through self-supervised learning (SSL) is a well-known approach to overcome the scarcity of labeled data; however, a naive application of SSL to ECG data, without considering the spatial-temporal relationships inherent in ECG signals, may yield suboptimal results. In this paper, we introduce ST-MEM (Spatio-Temporal Masked Electrocardiogram Modeling), designed to learn spatio-temporal features by reconstructing masked 12-lead ECG data. ST-MEM outperforms other SSL baseline methods in various experimental settings for arrhythmia classification tasks. Moreover, we demonstrate that ST-MEM is adaptable to various lead combinations. Through quantitative and qualitative analysis, we show a spatio-temporal relationship within ECG data. Our code is available at https://github.com/bakqui/ST-MEM.

研究の動機と目的

• 多様な心疾患検出のためのモデル学習において、ラベル付きECGデータが限られているという課題に対処すること。
• 12 lead ECG信号に内在する時間的および空間的関係を明示的にモデル化することで、ECGにおける自己教師あり表現学習を向上させること。
• リduced leadおよび単一リードECGを含む、さまざまなリード設定に柔軟に一般化できるフレームワークを開発すること。
• 定量的および定性的な分析を通じて、学習された表現が意味のある空間的・時間的パターンを捉えていることを検証すること。

提案手法

• 12 lead ECG信号に空間的・時間的パッチ化を適用し、モデル入力用に時間的および空間的パッチに分割する。
• マスク化自己符号化器（MAE）アーキテクチャを採用し、事前学習時に60％のパッチをランダムにマスクし、共有デコーダと学習可能なリード埋め込みを用いて再構成する。
• 動的および解剖的依存関係を捉えるために、分離した時間的および空間的アテンションメカニズムを備えた二重ブランチ符号化戦略を採用する。
• 空間的関係を再構成中に保持するために、リード別に共有されるデコーダと分離埋め込みを導入する。
• 事前学習は200エポック、固定学習率0.001で実施し、元の信号と再構成信号の平均二乗誤差を最小化する。
• 微調整は、下流分類タスクで交差エントロピー損失を用い、固定学習率0.001で30エポック実施する。

実験結果

リサーチクエスチョン

• RQ1 マスク化自己符号化器フレームワークは、12 lead ECGデータの時間的および空間的依存関係を捉えることで、一般化されたECG表現を効果的に学習できるか？
• RQ2 標準的および低リソース設定下で、ST-MEMは対照的および生成的SSLベースラインと比較して、心不全分類においてどのように性能を発揮するか？
• RQ3 ST-MEMは、四肢誘導や単一リード記録を含むリduced lead ECG設定にどの程度一般化できるか？
• RQ4 学習された表現がECG信号に意味のある空間的・時間的関係をエンコードしているという証拠は何か？

主な発見

• CPSC2018では1％の学習データでAUCROC 0.897 ± 0.025、PTB-XLでは0.815 ± 0.012を達成し、CPCやMLAEを含む再現可能なすべてのベースラインを上回った。
• 人間の活動認識（HAR）ベンチマークでは98.4％のF1スコアを達成し、一般化された多次元時系列タスクへの高い転送性を示した。
• 学習データが1％に限られる低リソース設定でも、ST-MEMは優れた性能を維持し、PTB-XLで0.815のAUCROC、CPSC2018で0.897のAUCROCを達成した。
• 定性的な分析により、モデルが意味のあるECG形態を再構成できており、空間的・時間的パターンの効果的な捉え込みが示された。
• リduced lead設定に対してもST-MEMは効果的に一般化し、四肢誘導や単一リードで微調整した場合でも高い性能を維持した。
• 一部の設定では、教師あり学習と同等の性能を示したため、自己教師あり事前学習による強力な一般化能力が裏付けられた。