[論文レビュー] Transfer Learning in ECG Diagnosis: Is It Effective?

Cuong V. Nguyen, Cuong Do|arXiv (Cornell University)|Feb 3, 2024

ECG Monitoring and Analysis被引用数 4

ひとこと要約

本研究は、多ラベル心電図診断における転移学習の包括的で実証的な評価を、多様なデータセットとディープラーニングアーキテクチャを用いて初めて実施した。その結果、小規模なデータセットでは微調整がランダム初期化からの学習を常に上回るが、大規模なデータセットではランダム初期化からの学習が微調整の性能を凌駆えることが判明した。また、CNNはRNNよりも顕著に転移学習と相性が良いことが示された。

ABSTRACT

The adoption of deep learning in ECG diagnosis is often hindered by the scarcity of large, well-labeled datasets in real-world scenarios, leading to the use of transfer learning to leverage features learned from larger datasets. Yet the prevailing assumption that transfer learning consistently outperforms training from scratch has never been systematically validated. In this study, we conduct the first extensive empirical study on the effectiveness of transfer learning in multi-label ECG classification, by investigating comparing the fine-tuning performance with that of training from scratch, covering a variety of ECG datasets and deep neural networks. We confirm that fine-tuning is the preferable choice for small downstream datasets; however, when the dataset is sufficiently large, training from scratch can achieve comparable performance, albeit requiring a longer training time to catch up. Furthermore, we find that transfer learning exhibits better compatibility with convolutional neural networks than with recurrent neural networks, which are the two most prevalent architectures for time-series ECG applications. Our results underscore the importance of transfer learning in ECG diagnosis, yet depending on the amount of available data, researchers may opt not to use it, considering the non-negligible cost associated with pre-training.

研究の動機と目的

• 転移学習が、ランダム初期化からの学習と比較して、心電図診断において一貫して性能を向上させるかどうかを体系的に評価すること。
• 下流データセットのサイズが、多ラベル心電図分類における転移学習の有効性に与える影響を調査すること。
• 心電図応用における畳み込みニューラルネットワーク（CNN）と再帰ニューラルネットワーク（RNN）の間で、転移学習の適合性を比較すること。
• 転移学習が、心電図診断タスクにおけるモデルの収束を早めるかどうかを評価すること。
• 現実の心電図診断シナリオにおいて、転移学習が常に性能を向上させるという一般的な仮定に疑問を呈すること。

提案手法

• 5つの公開心電図データセットを用いて、6つのディープニューラルネットワークアーキテクチャ（3つのCNN：ResNet1d18, ResNet1d34, ResNet1d101 と 3つのRNN：LSTM, Bi-LSTM, GRU）を用いた広範な実験を実施した。
• 3つの上流データセット（PTB-XL, CPSC2018, Georgia）で事前学習したモデルを、PTB, Ribeiro など5つの下流データセットで微調整した。
• F1スコアや100エポックにわたる収束速度といった複数の指標を用いて、微調整性能とランダム初期化からの学習（スクラッチ）を比較した。
• 2D畳み込みニューラルネットワークのための2D表現（例：スペクトログラム、スカラログラム）と、1D信号処理を1D CNNおよびRNNに適用し、入力処理の一貫性を確保した。
• 多ラベル分類指標を用いてモデル性能を評価し、全クラスおよび個々のデータセットにおけるF1スコアに注目した。
• 100エポックにわたる収束パターンを分析し、特に微調整済みモデルとランダム初期化モデルの間で、学習速度と安定性を評価した。

Fig. 1 : Performance comparison of fine-tuning and training from scratch, with three upstream datasets, six models, and four downstream datasets. In each chart, six symbols depict the average $f_{1}$ -scores for the respective models, and the bar shows the mean average score across these six models.

実験結果

リサーチクエスチョン

• RQ1 多様なデータセットとアーキテクチャを対象として、転移学習が多ラベル心電図分類において一貫してランダム初期化からの学習を上回るか？
• RQ2 下流データセットのサイズが、微調整とランダム初期化からの学習の相対的性能に与える影響はいかほどか？
• RQ3 心電図診断において、転移学習は畳み込みニューラルネットワーク（CNN）よりも再帰ニューラルネットワーク（RNN）に対してより効果的か？
• RQ4 微調整が、心電図分類タスクにおいてランダム初期化からの学習と比較して収束を早めるか？
• RQ5 ある心電図データセットから別のデータセットへ事前学習知識を転送することで、特に下流データセットが大規模な場合に、性能向上がどの程度達成されるか？

主な発見

• 下流データセットが小規模な場合、微調整はランダム初期化からの学習を顕著に上回るが、データセットサイズが増加するにつれて性能向上の差は縮小する。
• 十分に大きな下流データセット（例：PTB-XL）では、ランダム初期化からの学習が微調整と同等の性能を達成できるが、収束までにより長い学習期間を要する。
• 小規模データセットでは、微調整により収束が約30〜35エポック早く達成され、ランダム初期化からの学習よりも迅速に最良の性能に到達する。
• 転移学習はCNNに対しては顕著に高い適合性を示すが、RNNに対しては著しく低い適合性を示す。微調整済みCNNは、すべてのデータセットでランダム初期化モデルを一貫して上回る。
• RNN（LSTM, Bi-LSTM, GRU）は不安定な収束パターンを示し、微調整済みCNNに比べてしばしば性能が劣る。これは、異なるデータセット間での学習済み記憶表現の不適合性のため、転移学習がほとんどまたは全く恩恵をもたらさないためである。
• RNNの本質的な設計—時間的依存性を順序付き記憶に依存させる—は、異なる心電図データセット間での知識転送を無効にし、特に消失勾配問題を伴うため特に効果が薄い。

Fig. 3 : Fine-tuning improvement of the three ResNets with varying downstream dataset size.