[論文レビュー] CLOCS: Contrastive Learning of Cardiac Signals Across Space, Time, and Patients

Kiyasseh, Dani, Zhu, Tingting+1 more|arXiv (Cornell University)|May 27, 2020

Phonocardiography and Auscultation Techniques被引用数 38

ひとこと要約

CLOCSはECGに対する患者中心の対照学習を導入し、時系列的・空間的・患者レベルの不変性を活用して、BYOLおよびSimCLRを上回る頑健な表現を学習し、データ効率が高い。

ABSTRACT

The healthcare industry generates troves of unlabelled physiological data. This data can be exploited via contrastive learning, a self-supervised pre-training method that encourages representations of instances to be similar to one another. We propose a family of contrastive learning methods, CLOCS, that encourages representations across space, time, \ extit{and} patients to be similar to one another. We show that CLOCS consistently outperforms the state-of-the-art methods, BYOL and SimCLR, when performing a linear evaluation of, and fine-tuning on, downstream tasks. We also show that CLOCS achieves strong generalization performance with only 25\\% of labelled training data. Furthermore, our training procedure naturally generates patient-specific representations that can be used to quantify patient-similarity.

研究の動機と目的

• 臨床現場でラベルが乏しい大規模な未ラベルECGデータからの学習を動機づける。
• ECG信号の時間・空間的不変性を活用する患者特異的対照学習手法を開発する。
• CLOCS手法が心律不整分類タスクにおいて最先端の自己教師ありベースラインを上回ることを示す。
• 限られたラベルデータでのデータ効率の良い学習と、患者特異的表現の出現を示す。
• 学習表現の一般化と転移可能性をデータセット間および下流タスク間で探る。

提案手法

• 同じインスタンスだけでなく同一患者の変換を通じて正例ペアを定義する。
• Contrastive Multi-segment Coding (CMSC), Contrastive Multi-lead Coding (CMLC), そして Contrastive Multi-segment Multi-lead Coding (CMSMLC) の3つの変換ベースのコーディング方式を導入する。
• コサイン類似度と温度スケーリングを用いた患者特異的なNoise Contrastive Estimation (NCE) 損失を使用し、同じ患者内の整合性を最大化し、患者間の整合性を最小化する。
• 時系列不変性（セグメントレベル）と空間不変性（リードレベル）を活用してECG信号の拡張ビューを作成する。
• 複数のECGデータセットでリード数が異なる状況（4リード構成および12リード設定）で線形評価およびファインチューニングプロトコルの下で評価する。
• CLOCSをRandom Init., Supervised, MT-SSL, BYOL, and SimCLRベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 患者レベルの文脈は、インスタンスレベルの文脈を超えてECG信号の対照表現を改善できるか？
• RQ2 ECGの時系列および空間的不変性は、患者特異的な正例ペアと組み合わせると表現学習を共同で改善するか？
• RQ3 CMSC, CMLC, CMSMLCは標準的な自己教師付きベースラインと比べて心律不整分類タスクでどのように改善されるか？
• RQ4 CLOCSはデータ効率的で、限られたラベルデータで強力な下流性能を実現できるか？
• RQ5 学習された表現はデータセット間で一般化し、患者中心の分析を可能にするか？

主な発見

• CLOCSのバリアントは、線形評価および心律不整分類タスクのファインチューニングにおいて一貫してBYOLおよびSimCLRを上回る。
• CMSCは強力な線形評価性能を達成し（例：Chapman dataset）、複数のデータセットでいくつかのベースラインを上回る。
• 25%ラベルデータを使用してもCLOCS表現は競争力を維持し、データ効率の高さを示す。
• CMSCおよびCMSMLCは、SimCLRと比較して患者特異的表現がより分離可能であることを、患者内距離と患者間距離の分析から示す。
• 摂動研究全体を通じて、CMSCはSimCLRより優れた性能を維持しており、利点は摂動選択だけではなく患者レベルの共有文脈に起因することを示唆する。
• すべてのCLOCSバリアントは大半の実験でSimCLRを上回り、12リードを使用した場合はCMSCが先行する。