[논문 리뷰] Evaluating Contrastive Learning on Wearable Timeseries for Downstream Clinical Outcomes

Kevalee Shah, Dimitris Spathis외 2명|arXiv (Cornell University)|2021. 11. 13.

Machine Learning in Healthcare인용 수 4

한 줄 요약

이 논문은 임상 분류 작업을 위한 후행 과제로 웨어러블 시간시리즈 데이터에서 대비적 자기지도 학습(스임클러 및 바올)을 평가하며, 시간 신호에 맞게 데이터 증강 및 아키텍처를 적응시켰다. 대부분의 질병 예측 과제에서 스임클러가 완전히 지도 학습 및 적대적 비지도 학습 방법을 모두 능가함을 입증하며, 대비적 학습이 레이블이 없는 웨어러블 데이터에서 임상 표현 학습을 위한 강력한 접근법임을 확인한다.

ABSTRACT

Vast quantities of person-generated health data (wearables) are collected but the process of annotating to feed to machine learning models is impractical. This paper discusses ways in which self-supervised approaches that use contrastive losses, such as SimCLR and BYOL, previously applied to the vision domain, can be applied to high-dimensional health signals for downstream classification tasks of various diseases spanning sleep, heart, and metabolic conditions. To this end, we adapt the data augmentation step and the overall architecture to suit the temporal nature of the data (wearable traces) and evaluate on 5 downstream tasks by comparing other state-of-the-art methods including supervised learning and an adversarial unsupervised representation learning method. We show that SimCLR outperforms the adversarial method and a fully-supervised method in the majority of the downstream evaluation tasks, and that all self-supervised methods outperform the fully-supervised methods. This work provides a comprehensive benchmark for contrastive methods applied to the wearable time-series domain, showing the promise of task-agnostic representations for downstream clinical outcomes.

연구 동기 및 목표

• 대비적 자기지도 학습이 레이블이 없는 웨어러블 시간시리즈 데이터로부터 의미 있는 표현을 추출할 수 있는지 조사하기 위해.
• 시각 기반의 대비적 방법(SimCLR 및 BYOL)을 웨어러블 건강 신호의 시간적 성격에 맞게 적응시키기 위해.
• 실제 임상 분류 과제에서 완전히 지도 학습 및 적대적 비지도 학습 접근법과 비교하기 위해 이러한 방법들을 벤치마킹하기 위해.
• 수면 무호흡증, 당뇨병, 고혈압, 대사 증후군 및 불면증을 포함한 다양한 상태에 대해 성능을 평가하기 위해.

제안 방법

• 시간 역전, 세그먼트 재배열, 노이즈 추가, 스케일링과 같은 도메인 특화된 데이터 증강 기법을 설계하여 시간시리즈에 맞게 스임클러 및 바올 프레임워크를 적응시켰다.
• 동일한 시간시리즈의 증강된 시각들로부터 불변 표현을 학습하기 위해 공유된 인코더 가중치를 가진 이중 브랜치 신경망 아키텍처를 사용했다.
• 대비 손실을 적용하여 동일한 신호의 증강된 쌍(긍정 쌍)을 임베딩 공간에서 가까이, 다른 신호의 증강된 쌍(부정 쌍)을 멀리 떨어지게 하였다.
• 다운스트림 질병 분류를 위해 동결된 표현에 선형 분류기 헤드를 적용했으며, F1-마크로 및 F1-마이크로 지표를 사용해 평가했다.
• 대비 학습 성능을 최적화하기 위해 창 크기 512개 타임스텝과 배치 크기 1024를 선택했다.
• 이전 연구에서 얻은 완전히 지도 학습 CNN 및 적대적 비지도 학습 방법(day2vec)과 결과를 비교했다.

실험 결과

연구 질문

• RQ1 대비적 자기지도 학습은 레이블이 없는 웨어러블 시간시리즈 데이터로부터 임상적으로 관련 있는 표현을 추출할 수 있는가?
• RQ2 스임클러 및 바올은 수면, 심장 및 대사 장애의 후행 분류에서 완전히 지도 학습 및 적대적 비지도 학습 방법과 비교해 어떻게 성능을 내는가?
• RQ3 데이터 증강 전략의 선택이 웨어러블 시간시리즈 도메인에서 학습된 표현의 질에 크게 영향을 미치는가?
• RQ4 다양한 임상 조건에서 자기지도 학습 방법이 완전히 지도 학습 베이스라인보다 일관되게 성능 우위를 점할 수 있는가?
• RQ5 평가 지표(마크로 대비 마이크로 F1)는 불균형한 임상 데이터셋에서 모델 성능의 해석에 어떻게 영향을 미치는가?

주요 결과

• 스임클러는 수면 무호흡증, 대사 증후군 및 고혈압를 포함한 다섯 가지 과제 중 네 과제에서 바올 및 적대적 day2vec 방법을 모두 능가했다.
• 이 연구에서 새로운 과제로 다뤄진 대사 증후군 분류에 대해 스임클러는 가장 높은 F1-마크로 점수를 기록하여 새로운 임상 조건에 대한 강력한 일반화 능력을 보였다.
• 고혈압 분류에 대해 바올은 가장 높은 F1-마이크로 점수를 기록했고, 스임클러는 F1-마크로에서 선두를 달렸다. 이는 평가 지표 선택이 모델 비교에 미치는 영향을 보여준다.
• 스임클러와 바올은 모두 모든 과제에서 완전히 지도 학습 CNN 베이스라인을 능가했으며, 이는 레이블이 제한된 임상 데이터에서 자기지도 사전학습의 이점을 보여준다.
• 결과는 후행 과제 데이터에 대해 동일하게 훈련된 완전히 지도 학습 모델조차도 자기지도 표현이 더 뛰어난 특징 학습을 가능하게 함을 시사하며, 더 풍부한 표현 학습이 가능하다는 것을 확인한다.
• 이 연구는 웨어러블 시간시리즈에서 대비 학습에 대한 벤치마크를 수립하였으며, 과제에 관계없이 표현이 효과적으로 다양한 임상 결과를 예측하는 데 유용하다는 것을 보여주었다.