[논문 리뷰] Deep learning for neuroimaging: a validation study

Sergey Plis, Devon Hjelm외 2명|arXiv (Cornell University)|2013. 12. 20.

Functional Brain Connectivity Studies참고 문헌 31인용 수 17

한 줄 요약

이 연구는 구조적 및 기능적 MRI 데이터로부터 생리학적으로 의미 있는 표현을 학습할 수 있음을 입증함으로써, 깊이 학습(특히 제한된 볼츠만 기계(RBMs)와 심층 신뢰망(DBNs))이 뇌영상에 적용될 수 있음을 검증한다. 저자들은 DBNs가 얕은 모델보다 병변과 관련된 잠재 패턴을 더 잘 포착하며, 깊이가 증가할수록 헌팅턴병 데이터에서 병변의 심각도 경향성을 강화하고 드러내는 것으로 밝혔다. 이는 새로운 제약 기반 시각화 방법을 통해 검증되었다.

ABSTRACT

Deep learning methods have recently made notable advances in the tasks of classification and representation learning. These tasks are important for brain imaging and neuroscience discovery, making the methods attractive for porting to a neuroimager's toolbox. Success of these methods is, in part, explained by the flexibility of deep learning models. However, this flexibility makes the process of porting to new areas a difficult parameter optimization problem. In this work we demonstrate our results (and feasible parameter ranges) in application of deep learning methods to structural and functional brain imaging data. We also describe a novel constraint-based approach to visualizing high dimensional data. We use it to analyze the effect of parameter choices on data transformations. Our results show that deep learning methods are able to learn physiologically important representations and detect latent relations in neuroimaging data.

연구 동기 및 목표

• 얕은 깊이 학습 모델인 RBM이 기존 뇌영상 기법(예: ICA)과 비교해 특징 학습 능력을 동등하거나 초월할 수 있는지 평가하는 것.
• sMRI 및 fMRI 데이터에서 표현 학습 및 분류 성능에 있어 모델의 깊이가 미치는 영향을 조사하는 것.
• 대규모이고 이질적인 뇌영상 데이터셋에서 숨겨진 생물학적으로 관련된 구조를 발견하는 데 깊이 학습의 유용성을 평가하는 것.
• 심층 네트워크가 학습한 고차원 변환을 시각화하기 위한 새로운 제약 기반 임bedding 방법을 개발하고 적용하는 것.
• 다중 기관, 다중 스캐너, 다중 자기장 강도 뇌영상 데이터에서 깊이 학습의 강건성을 검증하는 것.

제안 방법

• 뇌영상 데이터에서 특징을 학습하기 위해 얕은 생성 모델인 제한된 볼츠만 기계(RBM)를 사용하였으며, 공간 차원에 대해 가중치 행렬을 적용하였다.
• sMRI 및 fMRI 데이터에서 다층적 표현을 학습하기 위해 스택된 RBM을 사용한 심층 신뢰망(DBNs)을 적용하였다.
• DBNs가 적용한 변환을 시각화하고 분석하기 위해 새로운 제약 만족 임베딩 방법을 사용하였으며, 제약 복잡도를 제어하였다.
• 32개 기관에서 수집한 3500명의 참가자(2641명의 HD 환자, 859명의 대조군)로부터의 원시 sMRI 데이터를 사전 학습하여 DBNs를 구축한 후, 분류 작업을 위해 미세 조정하였다.
• 스펙트럼 분해와 병변 심각도의 색상 코딩을 사용하여 임베딩 공간 내 잠재적 구조를 시각화하였다.
• 이상치 분석 및 이분류 작업에서 F-스코어를 사용하여 ICA 및 표준 분류기(SVM, 로지스틱 회귀)와의 성능을 비교하였다.

실험 결과

연구 질문

• RQ1 얕은 RBM이 뇌영상에서 기존 방법(예: ICA)과 유사한 생리학적으로 의미 있는 특징을 생성할 수 있는가?
• RQ2 DBN의 깊이를 증가시키면 구조적 MRI 데이터에서 분류 가능한 표현을 학습하는 데 성능 향상이 이루어지는가?
• RQ3 깊이 학습 모델은 단순한 분류를 넘어서 뇌영상 데이터에서 숨겨진 생물학적으로 관련된 패턴을 드러낼 수 있는가?
• RQ4 모델의 깊이가 이질적인 뇌영상 데이터에서 심층 네트워크의 표현 능력과 일반화 능력에 미치는 영향는 어떠한가?
• RQ5 새로운 제약 기반 임베딩 방법은 고차원 뇌영상 데이터에서 심층 네트워크가 학습한 변환을 효과적으로 시각화하고 해석할 수 있는가?

주요 결과

• 얕은 RBM은 시뮬레이션 데이터에서 ICA와 유사한 F-스코어를 달성하였으며, 국소적이고 생리학적으로 타당한 특징을 생성했고, 의미 있는 시간적 상관관계를 보였다.
• PREDICT-HD 데이터셋에서 DBN은 이분류 작업(대조군 대 환자)에서 깊이 3에서 성능이 복귀하여 F-스코어 1.00을 달성하였으며, 깊이 1과 2에서는 표현 능력의 한계로 성능 저하가 발생하였다.
• 제약 기반 임베딩 방법은 원천 레이블에 대한 접근 없이도 sMRI 스캔에서 병변 심각도의 연속 스펙트럼을 성공적으로 시각화하였으며, 원시 데이터나 t-SNE를 통해는 보이지 않는 잠재적 구조를 드러내었다.
• DBNs는 다중 기관, 다중 스캐너, 다중 자기장 강도 데이터에서 강건성을 보였으며, 전처리의 변동성에도 불구하고 강력한 일반화 능력을 보였다.
• 네트워크의 깊이가 군집 간 분리 및 특징 학습 능력을 크게 향상시켰으며, 깊이 3 모델이 얕은 아키텍처보다 미세한 병변 관련 패턴을 더 잘 포착하였다.
• 시각화 방법은 DBN이 임상적 심각도와 일치하는 의미 있는 비선형 변환을 학습했다는 것을 드러내었으며, 탐색적 신경과학 발견에 유용할 잠재력을 보였다.