[논문 리뷰] Semi-Structured Deep Piecewise Exponential Models

Philipp Kopper, Sebastian Pölsterl외 4명|arXiv (Cornell University)|2020. 11. 11.

3D Shape Modeling and Analysis참고 문헌 36인용 수 7

한 줄 요약

이 논문은 시간에 따라 변화하는 특징, 경쟁 위험, 다중 소스 데이터를 갖는 생존 데이터를 모델링하기 위해 해석 가능한 구조적 예측기와 딥 뉴럴 네트워크를 통합한 반구조적 딥 조각별 지수 모델인 DeepPAM을 소개한다. 이 모델은 표본형 및 비구조적 데이터(예: 3D 포인트 클라우드)를 함께 학습할 수 있으며, 알츠하이머병 진행 예측 및 시뮬레이션 데이터에서 정확히 지정된 모델과 유사한 성능을 달성한다.

ABSTRACT

We propose a versatile framework for survival analysis that combines advanced concepts from statistics with deep learning. The presented framework is based on piecewise exponential models and thereby supports various survival tasks, such as competing risks and multi-state modeling, and further allows for estimation of time-varying effects and time-varying features. To also include multiple data sources and higher-order interaction effects into the model, we embed the model class in a neural network and thereby enable the simultaneous estimation of both inherently interpretable structured regression inputs as well as deep neural network components which can potentially process additional unstructured data sources. A proof of concept is provided by using the framework to predict Alzheimer's disease progression based on tabular and 3D point cloud data and applying it to synthetic data.

연구 동기 및 목표

• 경쟁 위험, 다중 상태 모델, 시간에 따라 변화하는 특징과 같은 복잡한 데이터 구조를 다룰 수 있는 유연하고 해석 가능한 생존 분석 프레임워크를 개발하는 것.
• 표본형 특징(예: 표 형태의 특징)과 이미지, 포인트 클라우드 등 비구조적 데이터를 처리하는 딥 뉴럴 네트워크를 통합한 유일한 모델에서 구조적 해석 가능한 예측기와 딥 뉴럴 네트워크를 통합하는 것.
• 절단점 선택에 민감한 전통적 조각별 지수 모델의 한계를 보완하기 위해 부드러운 기본 위험 추정을 위해 정규화된 스퍼인을 사용하는 것.
• 실제 및 시뮬레이션 데이터에서 모델 성능을 평가하여, 특히 다중 모달 데이터를 사용한 알츠하이머병 진행 예측에서의 성능을 분석하는 것.

제안 방법

• 프레임워크는 조각별 지수 가산 모델(PAMs)과 반구조적 딥 분포 회귀(SDDR)를 결합하여, 구조적 예측기를 신경망 아키텍처에 통합한다.
• 위험 함수는 f(x(t), t, k)의 지수 형태로 모델링되며, f에는 표본형 특징의 가산적이고 해석 가능한 영향과 비구조적 데이터를 위한 딥 뉴럴 네트워크 구성요소가 포함된다.
• 정규화된 스퍼인을 사용하여 부드럽고 강인한 기본 위험 추정과 시간에 따라 변화하는 영향을 추정하여 수동적인 절단점 선택이 필요 없도록 한다.
• 전이별 위험 함수를 통해 우측 절단, 좌측 절단, 경쟁 위험, 다중 상태 생존 작업을 지원한다.
• 비구조적 데이터(예: 3D 포인트 클라우드)는 위험 함수에 영향을 주는 잠재 표현을 학습하는 데 사용되는 딥 뉴럴 네트워크 헤드를 통해 처리된다.
• 모델 학습은 정규화를 통한 우도 최대화를 통해 수행되어 해석 가능성과 예측 능력의 균형을 이룬다.

실험 결과

연구 질문

• RQ1 통합된 생존 모델이 다중 모달 데이터에 대해 해석 가능한 구조적 예측기와 딥 뉴럴 네트워크를 효과적으로 통합할 수 있는가?
• RQ2 표본형 데이터만 사용하는 모델에 비해 비구조적 데이터(예: 3D 포인트 클라우드)를 통합하면 생존 예측 성능이 향상되는가?
• RQ3 비구조적 데이터에서 유도된 잠재 표현을 사용할 때, 모델이 진짜 시간에 따라 변화하는 영향과 항목별 특이 위험 영향을 얼마나 잘 복원하는가?
• RQ4 예측 정확도 측면에서 Cox PH, Kaplan-Meier, 그리고 정확히 지정된 PAM과 같은 벤치마크 모델에 비해 모델 성능은 어떠한가?

주요 결과

• DeepPAM은 중앙 생존 시간에서 IBS(통합 브리어 스코어)가 1.27(±1.83)를 기록하여 베이스라인 PAM(4.39)을 능가하고 정확히 지정된 PAM(4.39)의 성능에 근접하였다.
• 시뮬레이션 데이터에서 DeepPAM은 잠재 항목 클래스 3개 중 2개의 진짜 위험 영향을 성공적으로 복원하였으며, 세 번째 클래스의 영향은 약간의 편향이 있었지만 5%-95% 분위수 범위 내에 포함되었다.
• 포인트 클라우드 정보가 없는 기본 모델은 모든 클래스에서 일정한 위험을 예측하여, DeepPAM이 비구조적 데이터를 효과적으로 활용하여 분류 성능을 향상시켰음을 확인하였다.
• DeepPAM은 Cox PH 모델(중앙에서 IBS: 4.16)과 Kaplan-Meier 추정기(중앙에서 IBS: 12.54)를 모두 능가하여 뛰어난 예측 성능을 입증하였다.
• 기준 모델인 정확한 PAM 모델에 비해 DeepPAM은 중앙 IBS 차이가 1.27%(±1.83)에 그쳐 강력한 예측 정밀도를 보였다.
• 모델 복잡성으로 인한 성능 저하 없이 시간에 따라 변화하는 특징과 기능적 영향을 잘 처리하는 데 있어 뛰어난 내구성을 보였다.