[논문 리뷰] Deep Transfer Learning for Physiological Signals.

Hugh Chen, Scott Lundberg외 3명|arXiv (Cornell University)|2020. 02. 12.

Phonocardiography and Auscultation Techniques참고 문헌 61인용 수 4

한 줄 요약

PHASE는 신호별 LSTM을 사용하여 생리 신호의 공유되고 저차원의 임베딩을 학습하는 딥 트랜스퍼 러닝 프레임워크로, 병원 및 부서 간에 악성 결과 예측 성능을 향상시킵니다. 다양한 임상 환경 간 지식 전이에 성공적으로 활용되며, 뛰어난 성능과 낮은 계산 비용을 동시에 달성합니다.

ABSTRACT

Deep learning is increasingly common in healthcare, yet transfer learning for physiological signals (e.g., temperature, heart rate, etc.) is under-explored. Here, we present a straightforward, yet performant framework for transferring knowledge about physiological signals. Our framework is called PHASE (PHysiologicAl Signal Embeddings). It i) learns deep embeddings of physiological signals and ii) predicts adverse outcomes based on the embeddings. PHASE is the first instance of deep transfer learning in a cross-hospital, cross-department setting for physiological signals. We show that PHASE's per-signal (one for each signal) LSTM embedding functions confer a number of benefits including improved performance, successful transference between hospitals, and lower computational cost.

연구 동기 및 목표

• 병원 및 부서 간 생리 신호 분석에서의 전이 학습에 대한 미비한 탐색에 도전합니다.
• 악성 임상 결과 예측을 향상시키기 위해 생리 신호의 공유 표현을 학습하는 프레임워크를 개발합니다.
• 다른 데이터 분포와 신호 측정 프로토콜을 가진 병원 간 지식 전이를 가능하게 합니다.
• 하류 예측 작업의 성능을 유지하거나 향상시키면서도 계산 비용을 감소시킵니다.

제안 방법

• 심박수 및 체온과 같은 원시 생리 신호로부터 깊이 있는 저차원 임베딩을 학습하기 위해, 각 신호 유형에 맞는 장기 단기 기억망(LSTM) 네트워크를 훈련합니다.
• 학습된 임베딩을 하류 예측 작업(예: 악성 결과 예측)을 위한 교환 가능한 표현으로 사용합니다.
• 다른 병원 및 부서에 걸쳐 동일한 임베딩 함수를 적용하여, 제로샷 또는 희소한 샘플 전이 학습을 가능하게 합니다.
• 공유된 임베딩 위에 최종 예측 헤드를 훈련하고, 미세조정 중에는 임베딩 함수를 고정합니다.
• 악성 사건 분류를 위한 교차 엔트로피 손실을 사용하여 프레임워크를 종합적으로 최적화합니다.
• 다른 병원 및 부서의 데이터에서 동일한 임베딩 함수를 재사용하여 재학습 없이 테스트함으로써 전이 가능성 평가를 수행합니다.

실험 결과

연구 질문

• RQ1 신호별 LSTM 기반 임베딩은 서로 다른 병원 및 임상 부서 간에 효과적으로 지식을 전이할 수 있는가?
• RQ2 PHASE에서 학습된 공유 임베딩을 사용할 경우, 처음부터 모델을 훈련하는 것보다 악성 결과 예측 성능이 향상되는가?
• RQ3 PHASE는 정확도를 유지하거나 향상시키면서 계산 비용을 얼마나 줄일 수 있는가?
• RQ4 다른 병원 간 데이터 분포 및 신호 측정 프로토콜의 변화에 대해 학습된 임베딩은 얼마나 강건한가?

주요 결과

• PHASE는 처음부터 모델을 훈련하는 기준 모델 대비 악성 결과 예측 성능을 향상시킵니다.
• 다른 데이터 분포와 신호 측정 시스템을 가진 병원 및 부서 간에도 지식 전이가 성공적으로 이루어집니다.
• 다양한 예측 작업에 걸쳐 사전 훈련된 신호별 임베딩 함수를 재사용함으로써 계산 비용을 감소시킵니다.
• 모든 신호에 대해 일반화된 또는 공유되는 임베딩보다, 신호별 LSTM 임베딩이 더 나은 표현 학습을 제공합니다.
• 임베딩을 한 병원에서 학습한 후, 미세조정 없이도 다른 병원으로 일반화되는 강력한 제로샷 전이 능력을 보입니다.
• 다른 모니터링 프로토콜이나 신호 유형을 가진 부서의 데이터에서도 PHASE는 높은 성능을 유지합니다.