[논문 리뷰] Large-scale Training of Foundation Models for Wearable Biosignals

Salar Abbaspourazad, Oussama Elachqar외 4명|arXiv (Cornell University)|2023. 12. 08.

Mobile Health and mHealth Applications인용 수 20

한 줄 요약

저자들은 Apple Heart and Movement Study의 대규모 비레이블 PPG 및 ECG 데이터를 활용하여 참가자 수준 양수를 사용한 자기지도 학습으로 기반 모델을 학습시키고, 인구통계 및 건강 정보를 인코딩하는 임베딩을 보였으며 PPG와 ECG의 유틸리티 차이가 나타난다.

ABSTRACT

Tracking biosignals is crucial for monitoring wellness and preempting the development of severe medical conditions. Today, wearable devices can conveniently record various biosignals, creating the opportunity to monitor health status without disruption to one's daily routine. Despite widespread use of wearable devices and existing digital biomarkers, the absence of curated data with annotated medical labels hinders the development of new biomarkers to measure common health conditions. In fact, medical datasets are usually small in comparison to other domains, which is an obstacle for developing neural network models for biosignals. To address this challenge, we have employed self-supervised learning using the unlabeled sensor data collected under informed consent from the large longitudinal Apple Heart and Movement Study (AHMS) to train foundation models for two common biosignals: photoplethysmography (PPG) and electrocardiogram (ECG) recorded on Apple Watch. We curated PPG and ECG datasets from AHMS that include data from ~141K participants spanning ~3 years. Our self-supervised learning framework includes participant level positive pair selection, stochastic augmentation module and a regularized contrastive loss optimized with momentum training, and generalizes well to both PPG and ECG modalities. We show that the pre-trained foundation models readily encode information regarding participants' demographics and health conditions. To the best of our knowledge, this is the first study that builds foundation models using large-scale PPG and ECG data collected via wearable consumer devices $\unicode{x2013}$ prior works have commonly used smaller-size datasets collected in clinical and experimental settings. We believe PPG and ECG foundation models can enhance future wearable devices by reducing the reliance on labeled data and hold the potential to help the users improve their health.

연구 동기 및 목표

• 강력한 모델 개발을 위한 대규모 주석이 달린 생체 신호 데이터셋의 부족 문제를 해결한다.
• 웨어러블 기기로부터 대규모 비레이블 PPG 및 ECG 데이터에 기반 모델을 학습시킨다.
• 참가자 수준 임베딩이 인구통계 및 건강 상태에 대해 무엇을 밝히는지 조사한다.
• 생체 신호 표현에 대한 자기지도 학습 기법과 증강 전략의 영향을 평가한다.

제안 방법

• InfoNCE와 KoLeo 정규화를 포함한 대조적 자기지도 학습으로 임베딩을 학습한다.
• 동일 참가자의 서로 다른 구간에서 양의 쌍을 생성하기 위한 확률적 참가자 수준 증강 모듈을 적용한다.
• 표현의 안정화를 위해 인코더와 프로젝션 헤드에 모멘텀 학습을 적용한다.
• SSL 손실을 위한 EfficientNet 기반 1D 인코더(256차원 임베딩)와 128차원 프로젝션 헤드를 활용한다.
• Apple Watch를 통해 수집된 141k 참가자의 ~20M PPG 구간 및 106k 참가자의 ~3.75M ECG 구간에서 사전 학습한다.
• 임베딩에 인코딩된 정보를 평가하기 위해 다운스트림 인구통계 및 건강 관련 대상에 대한 선형 프로브를 평가한다.

실험 결과

연구 질문

• RQ1 웨어러블 바이오신호에 대한 대규모 자기지도 사전 학습이 라벨 없이도 정보성이 높은 임베딩을 생성할 수 있는가?
• RQ2 PPG 및 ECG 임베딩이 기본 심박 정보 이상으로 참가자 인구통계 및 건강 상태를 인코딩하는가?
• RQ3 이 프레임워크에서 PPG와 ECG가 정보 내용과 사전 학습 역학 측면에서 어떻게 다른가?
• RQ4 양의 쌍 선택 및 증강 선택이 다운스트림 성능에 미치는 영향은?
• RQ5 다른 인코더 아키텍처가 학습 표현의 품질과 효율성에 어떤 영향을 미치는가?

주요 결과

• PPG 임베딩은 선형 탐색에서 연령, BMI, 생물학적 성별 예측에서 거의 항상 기본 인구통계 특성보다 우수하다.
• ECG 임베딩은 건강 정보를 인코딩하지만 PPG 임베딩에 비해 다운스트림 건강 타깃에 대한 예측력이 상대적으로 낮다.
• 사전 학습된 임베딩은 자가 보고 건강 상태 및 약물에 대한 광범위한 정보를 예측한다.
• 참가자 수준 양의 쌍 선택이 구간 수준 쌍보다 다운스트림 예측 성능을 크게 향상시킨다.
• KoLeo 정규화와 대조적/자기지도 프레임워크가 표현 품질을 향상시키며; KoLeo를 제거하면 다운스트림 지표가 악화된다.
• 다양한 인코더 아키텍처가 비슷한 성능을 낼 수 있으며, 1D-EfficientNet이 매개변수 효율 면에서 우수하다.