[논문 리뷰] Learning compressed representations of blood samples time series with missing data.

Filippo Maria Bianchi, Karl Øyvind Mikalsen외 1명|arXiv (Cornell University)|2017. 10. 01.

Machine Learning in Healthcare인용 수 1

한 줄 요약

이 논문은 다변량 혈액 샘플 시간 시리즈에서 누락 데이터가 있는 경우 압축된 저차원 표현을 학습하기 위해 시간 시리즈 클러스터 커널(TCK)으로 강화된 새로운 오토인코더 프레임워크를 제안한다. 커널 정렬을 통해 TCK를 통합함으로써, 모델은 누락 패턴을 처리하는 데서 표준 오토인코더보다 우수한 표현 품질과 분류 성능을 달성한다. 이는 수술 부위 감염 예측에 유리하다.

ABSTRACT

Clinical measurements collected over time are naturally represented as multivariate time series (MTS), which often contain missing data. An autoencoder can learn low dimensional vectorial representations of MTS that preserve important data characteristics, but cannot deal explicitly with missing data. In this work, we propose a new framework that combines an autoencoder with the Time series Cluster Kernel (TCK), a kernel that accounts for missingness patterns in MTS. Via kernel alignment, we incorporate TCK in the autoencoder to improve the learned representations in presence of missing data. We consider a classification problem of MTS with missing values, representing blood samples of patients with surgical site infection. With our approach, rather than with a standard autoencoder, we learn representations in low dimensions that can be classified better.

연구 동기 및 목표

• 임상 환경에서 누락 데이터가 있는 다변량 시간 시리즈(MTS)로부터 의미 있는 저차원 표현을 학습하는 데 도전하는 것.
• 누락 값이 있는 MTS의 표현 품질을 향상시키기 위해 누락 패턴을 명시적으로 모델링함으로써 오토인코더의 성능을 향상시키는 것.
• 오토인코더와 시간 시리즈 클러스터 커널(TCK)을 결합한 프레임워크를 개발하는 것. TCK는 누락 데이터 패턴을 고려하도록 설계된 커널이다.
• 실제 임상 분류 과제인 혈액 샘플 MTS와 수술 부위 감염에 대해 제안된 방법의 효과성을 평가하는 것.
• 표준 오토인코더에 비해 TCK와의 커널 정렬이 표현 품질과 후속 분류 정확도를 향상시키는지 입증하는 것.

제안 방법

• 시간 시리즈 클러스터 커널(TCK)을 통합하여, 관측된 부분과 누락된 부분을 기반으로 유사도를 측정함으로써 MTS 내 누락 패턴을 모델링한다.
• 커널 정렬을 사용하여 오토인코더의 학습 목표를 정규화함으로써, 학습된 표현이 TCK 기반의 유사도 구조와 일치하도록 한다.
• 오토인코더는 입력 MTS의 구조적 및 시간적 특성을 유지하면서도 누락 데이터에 대해 강건한 뱃지너 표현을 학습한다.
• 재구성 오차와 커널 정렬 손실을 조합한 손실 함수를 사용하여 모델을 엔드 투 엔드로 훈련한다.
• 결과적으로 생성된 저차원 임bedding은 수술 부위 감염 예측과 같은 후속 분류 과제에 사용된다.
• 모델은 보간을 요구하지 않고도 누락 데이터 패턴을 명시적으로 고려하여 원본 데이터의 구조적 특성을 유지한다.

실험 결과

연구 질문

• RQ1 오토인코더와 시간 시리즈 클러스터 커널(TCK)을 조합함으로써 누락 데이터가 있는 다변량 시간 시리즈의 압축 표현 품질을 향상시킬 수 있는가?
• RQ2 오토인코더의 잠재 공간과 TCK 기반 유사도 측정 간의 커널 정렬이 누락 값 존재 조건에서 표현 학습에 어떤 영향을 미치는가?
• RQ3 제안된 프레임워크는 혈액 샘플 시간 시리즈와 같이 누락 데이터가 있는 임상 MTS의 분류에서 표준 오토인코더를 능가하는가?
• RQ4 누락 패턴을 명시적으로 모델링함으로써 수술 부위 감염 예측의 후속 분류 성능은 어느 정도 향상되는가?
• RQ5 임상 시간 시리즈에서 다양한 수준과 패턴의 누락 데이터에 대해 학습된 표현은 얼마나 강건한가?

주요 결과

• 혈액 샘플 MTS에서 누락 데이터가 있는 경우, 제안된 프레임워크는 표준 오토인코더보다 수술 부위 감염 예측에서 뛰어난 분류 성능을 달성한다.
• 커널 정렬을 통한 TCK 통합은 MTS의 누락 값이 있는 경우보다 더 정보가 풍부하고 강건한 저차원 표현을 생성한다.
• 모델은 보간을 요구하지 않고도 누락 데이터 패턴에서 효과적으로 학습하여 원본 데이터의 특성을 유지한다.
• 커널 정렬 메커니즘은 오토인코더가 TCK의 유사도 개념과 일치하는 표현을 학습하도록 성공적으로 이끌었으며, 일반화 능력을 향상시켰다.
• 결과적으로 표현 학습 과정에서 누락 패턴을 명시적으로 모델링함으로써 후속 분류 정확도가 향상됨을 입증했다.
• 높은 수준의 누락 데이터가 존재하는 상황에서도 프레임워크는 성능 향상을 보이며, 데이터 불완전성에 대해 강력한 내구성을 보였다.