[논문 리뷰] Subject-Aware Contrastive Learning for Biosignals

Joseph Y. Cheng, Hanlin Goh외 3명|arXiv (Cornell University)|2020. 06. 30.

Muscle activation and electromyography studies참고 문헌 45인용 수 77

한 줄 요약

피험자를 고려한 손실을 통합한 생체 신호용 자기지도 대조 학습 접근법으로, 피험자 간 변이를 다루며, 광범위한 EEG 및 ECG 평가에서 라벨 데이터 및 피험자 수가 제한될 때도 경쟁력 있는 성능과 향상된 표현을 보인다.

ABSTRACT

Datasets for biosignals, such as electroencephalogram (EEG) and electrocardiogram (ECG), often have noisy labels and have limited number of subjects (<100). To handle these challenges, we propose a self-supervised approach based on contrastive learning to model biosignals with a reduced reliance on labeled data and with fewer subjects. In this regime of limited labels and subjects, intersubject variability negatively impacts model performance. Thus, we introduce subject-aware learning through (1) a subject-specific contrastive loss, and (2) an adversarial training to promote subject-invariance during the self-supervised learning. We also develop a number of time-series data augmentation techniques to be used with the contrastive loss for biosignals. Our method is evaluated on publicly available datasets of two different biosignals with different tasks: EEG decoding and ECG anomaly detection. The embeddings learned using self-supervision yield competitive classification results compared to entirely supervised methods. We show that subject-invariance improves representation quality for these tasks, and observe that subject-specific loss increases performance when fine-tuning with supervised labels.

연구 동기 및 목표

• 제한된 라벨과 소수의 피험자에서도 강건한 생체신호 표현을 학습하도록 동기를 부여한다.
• SSL에 피험자 인식 메커니즘을 도입하여 피험자 간 변이성을 다룬다.
• 생체신호에 맞춘 도메인 영감을 받은 데이터 증강 기법을 개발한다.
• 피험자 정보를 통합하기 위해 (a) 피험자 특이 대조 손실과 (b) 피험자 불변성을 촉진하는 적대적 학습을 도입한다.
• EEG 디코딩 및 ECG 이상 탐지 작업에서 표현을 평가한다.

제안 방법

• 증강된 생체신호 세그먼트를 잠재 표현으로 매핑하기 위해 인코더 G를 사용한다.
• 두 증강 간의 상호정보를 InfoNCE 대조 손실로 최적화한다.
• 피험자 인지 학습을 도입: (i) 피험자 특이 대조 손실, (ii) 피험자 불변성을 촉진하는 적대적 학습.
• 음수 샘플링 및/또는 정규화에 피험자 정보를 도입하고, 제어 가능한 가중치 lambda를 사용한다.
• 시계열 증강(시간적 컷아웃, 시간 지연, 잡음, 대역 차단, 신호 혼합) 및 EEG 특이 공간 증강을 개발하고 적용한다.
• 배치와 시간 전반에 걸쳐 음수 집합을 확장하기 위해 모멘텀 인코더로 학습한다.

실험 결과

연구 질문

• RQ1 제한된 라벨과 피험자 수로도 자기지도 대조 학습이 구분 가능한 생체신호 표현을 만들 수 있는가?
• RQ2 기본 SSL과 비교하여 피험자 인식(불변성 또는 특이성)을 도입하면 EEG/ECG 하류 작업이 향상되는가?
• RQ3 대조 프레임워크에서 어떤 데이터 증강이 생체신호의 작업 관련 정보를 가장 잘 보존하는가?
• RQ4 보지 않은 피험자에 대해 감독 학습 라벨로 미세조정할 때 피험자 인식 SSL 표현은 어떤 성능을 보이는가?

주요 결과

• 피험자 불변 SSL은 피험자가 제한될 때 EEG 및 ECG 표현 품질을 향상시킨다.
• 피험자 특이 SSL과 피험자 불변 SSL은 임베딩의 피험자 식별 정보를 모두 줄이고 다운스트림 정확도를 향상시킬 수 있다.
• 실험된 변환 중 시간적 증강(컷아웃, 지연)이 EEG 표현 학습을 가장 크게 향상시킨다.
• 피험자 인지 SSL은 라벨이나 피험자 수가 적은 경우에도 완전 지도 비교 기반에 비해 EEG 디코딩 및 ECG 박동/리듬 분류에서 경쟁력 있는 성능을 보인다.
• SSL 초기화에서의 미세조정은 EEG 작업의 종단 간 감독 학습 성능을 향상시킨다.
• ECG의 경우 피험자 불변 SSL은 저라벨/저피험자 구간에서 이롭고, 피험자 정보를 균형 있게 조정하기 위해 정규화 매개변수 lambda의 조정이 필요할 수 있다.