[論文レビュー] ECGMamba: Towards Efficient ECG Classification with BiSSM

Yupeng Qiang, Xunde Dong+4 more|arXiv (Cornell University)|Jun 14, 2024

ECG Monitoring and AnalysisMedicine被引用数 3

ひとこと要約

ECGMambaは、変換器の2次的な自己注意計算複雑度の問題を克服するため、Mambaアーキテクチャに基づく双方向状態空間モデル（BiSSM）を用いた、革新的で効率的な心電図分類モデルを提案する。2つの公開心電図データセットにおいて最先端の性能を達成し、推論効率が優れている。精度と速度の両立が図られていることが示された。

ABSTRACT

Electrocardiogram (ECG) signal analysis represents a pivotal technique in the diagnosis of cardiovascular diseases. Although transformer-based models have made significant progress in ECG classification, they exhibit inefficiencies in the inference phase. The issue is primarily attributable to the secondary computational complexity of Transformer's self-attention mechanism. particularly when processing lengthy sequences. To address this issue, we propose a novel model, ECGMamba, which employs a bidirectional state-space model (BiSSM) to enhance classification efficiency. ECGMamba is based on the innovative Mamba-based block, which incorporates a range of time series modeling techniques to enhance performance while maintaining the efficiency of inference. The experimental results on two publicly available ECG datasets demonstrate that ECGMamba effectively balances the effectiveness and efficiency of classification, achieving competitive performance. This study not only contributes to the body of knowledge in the field of ECG classification but also provides a new research path for efficient and accurate ECG signal analysis. This is of guiding significance for the development of diagnostic models for cardiovascular diseases.

研究の動機と目的

• 変換器ベースのモデルにおける心電図分類の高コストな推論を、2次的な自己注意計算複雑度の問題から解消すること。
• 双方向状態空間モデル（BiSSM）が、効率的かつ効果的な心電図信号モデリングに有効であるかを検証すること。
• 長時間の心電図シーケンスにおいても、推論速度を犠牲にせずに高い性能を維持できる軽量で強力なアーキテクチャを開発すること。
• スケーラビリティと計算効率を向上させた、臨床的応用に適した新しい効率的ディープラーニングフレームワークを提供すること。

提案手法

• ECGMambaは、長時間シーケンスモデリングに効率的な選択的スキャン機構を活用するMambaベースのブロックをコアコンponentとして採用している。
• 訓練の安定性と勾配の流れを改善するために、残差接続と層正則化を統合している。
• 各Mambaブロックの後続にフィードフォワードネットワーク（FFN）を適用し、非線形表現学習を強化している。
• Mambaブロックに入力する前の初期特徴抽出のため、畳み込み層に基づく心電図エンコーダーを用いている。
• 心電図シーケンスにおける過去と未来の文脈を捉えるために、双方向設計（BiSSM）を採用している。
• 標準的なディープラーニング訓練プロトコルに従い、交差エントロピー損失を用いてエンドツーエンドで訓練している。

実験結果

リサーチクエスチョン

• RQ1 BiSSMベースのアーキテクチャは、推論コストを低く抑えつつ、変換器を上回る性能を発揮できるか？
• RQ2 Mambaブロックに残差接続と正則化を統合することで、心電図分類性能にどのような影響を与えるか？
• RQ3 心電図分類において、精度と効率のバランスを最適化するには、Mamba層の最適数は何か？
• RQ4 個々のコンポonent（心電図エンコーダー、LN、FFN）は、全体のモデル性能にどのように寄与しているか？

主な発見

• CPSC2018データセットにおいて、ECGMambaはAUC 0.9526、F1スコア 0.7909を達成し、ベースラインモデルを上回った。
• PTB-XLデータセットでは、AUC 0.9167、F1スコア 0.7528を達成し、優れた一般化性能を示した。
• アブレーションスタディの結果、心電図エンコーダー、層正則化、FFNがすべてモデル性能の向上に顕著に寄与していることが確認された。
• Mamba層を8層に設定した場合が最良の性能を示し、CPSC2018ではAUC 0.9539、PTB-XLでは正答率 0.8881を記録した。
• Mamba機構の線形計算複雑度のおかげで、自己注意の2次的複雑度とは異なり、高い推論効率を維持した。
• 結果から、BiSSMベースのモデルは、心電図分類における変換器の代替として実用的で効率的な選択肢であることが示された。