[논문 리뷰] Ensemble learning with 3D convolutional neural networks for connectome-based prediction

Meenakshi Khosla, Keith Jamison외 2명|arXiv (Cornell University)|2018. 09. 11.

Functional Brain Connectivity Studies참고 문헌 51인용 수 3

한 줄 요약

이 논문은 다양한 뇌 파편화 기반으로 훈련된 모델들을 조합하여 功能 연결망 기반 예측 성능을 향상시키기 위해 3D 합성곱 신경망(3D-CNN)을 사용하는 앙상블 학습 프레임워크를 제안한다. 임의의 파편화 기반으로도 표준 아틀라스와 유사한 성능을 달성하며, 앙상블 전략은 자율성 장애 및 rs-fMRI 데이터로부터 연령 예측에서의 정확성과 안정성을 크게 향상시킨다.

ABSTRACT

The specificty and sensitivity of resting state functional MRI (rs-fMRI) measurements depend on pre-processing choices, such as the parcellation scheme used to define regions of interest (ROIs). In this study, we critically evaluate the effect of brain parcellations on machine learning models applied to rs-fMRI data. Our experiments reveal a remarkable trend: On average, models with stochastic parcellations consistently perform as well as models with widely used atlases at the same spatial scale. We thus propose an ensemble learning strategy to combine the predictions from models trained on connectivity data extracted using different (e.g., stochastic) parcellations. We further present an implementation of our ensemble learning strategy with a novel 3D Convolutional Neural Network (CNN) approach. The proposed CNN approach takes advantage of the full-resolution 3D spatial structure of rs-fMRI data and fits non-linear predictive models. Our ensemble CNN framework overcomes the limitations of traditional machine learning models for connectomes that often rely on region-based summary statistics and/or linear models. We showcase our approach on a classification (autism patients versus healthy controls) and a regression problem (prediction of subject's age), and report promising results.

연구 동기 및 목표

• 기능 연결망 기반 예측에서 다양한 뇌 파편화 기법이 기계학습 성능에 미치는 영향을 평가하기 위해.
• 임의의 ROI 정의에 민감한 연결망 모델의 문제를 해결하기 위해, 여러 파편화 기반으로 앙상블 학습 전략을 제안하기 위해.
• 3D fMRI 데이터의 전체 해상도 3D 공간적 구조를 활용하여 비선형 패턴을 포착하는 3D-CNN 프레임워크를 개발하기 위해.
• 기능 연결망 데이터를 활용하여 임상 적용 분야인 자율성 장애 분류 및 연령 예측의 정확도를 향상시키기 위해.
• 자기적 파편화가 표준 아틀라스 수준의 성능을 달성하거나 초월할 수 있음을 입증하여 견고한 앙상블 학습을 가능하게 하기 위해.

제안 방법

• 모든 피험자에게 대해 포isson 디스크 샘플링을 이용한 자기적 파편화 기법을 적용하여 다양한 영역 정의(ROI)를 생성한다.
• 각 자기적 파편화 기반으로, ROI 간 피어슨 상관계수를 사용하여 기능적 연결 행렬을 계산한다.
• 3D 볼륨 표현 방식으로 rs-fMRI 데이터를 활용하여 3D-CNN 모델을 훈련시키며, 공간 해상도를 유지하고 국소 패턴을 포착한다.
• 다양한 파편화 기반으로 훈련된 다수의 3D-CNN 모델 예측 결과를 조합하는 앙상블 전략을 통해 일반화 성능을 향상시킨다.
• 안정성과 모델 간 성능 평가를 위해 ABIDE-II 데이터를 기반으로 10,000개의 부트스트랩 샘플을 활용하여 프레임워크를 평가한다.
• 수작업 특징 또는 선형 모델에 의존하지 않고, 3D fMRI 볼륨에서 직접 계층적 표현을 학습한다.

실험 결과

연구 질문

• RQ1 기능 연결망 기반 예측에서 다양한 뇌 파편화 기법이 기계학습 모델 성능에 어떤 영향을 미치는가?
• RQ2 자기적 파편화 기법이 연결망 기반 분류 및 회귀 작업에서 기존에 널리 사용되는 아틀라스와 유사한 성능을 달성할 수 있는가?
• RQ3 다양한 파편화 기반으로 훈련된 모델의 앙상블 전략이 단일 아틀라스 기반 모델보다 정확성과 안정성을 향상시키는가?
• RQ4 전체 3D 공간적 구조를 유지하는 3D-CNN 아키텍처가 전통적인 선형 모델 또는 그래프 기반 모델에 비해 연결망 데이터에서 얼마나 뛰어난 성능을 보이는가?
• RQ5 제안된 앙상블 전략은 기준 모델(SVM, FCN, BrainNet-CNN 등)에 비해 예측 성능과 안정성 측면에서 어떻게 비교되는가?

주요 결과

• 자기적 파편화 기법은 동일한 공간 해상도에서 널리 사용되는 아틀라스와 유사한 성능을 지속적으로 달성하여, 모델 훈련에 있어 신뢰성 있음을 시사한다.
• SP-Ensemble 접근법은 자율성 장애 대조군 분류 작업에서 최고의 단일 아틀라스 모델 수준의 정확도를 달성하거나 略로 초월하였다.
• 3D-CNN 모델은 연령 예측 작업에서 기준 모델(FN, SVM 등)보다 뛰어난 성능을 보였으며, 특히 각 개별 아틀라스 기반 모델에서의 향상 효과가 두드러졌다.
• 앙상블 예측 결과는 서로 다른 파편화 기반 모델 간에 미미한 차이를 보였으며, 이는 앙상블 전략이 다양한 파편화 기반에서 성능을 안정화시킨다는 것을 시사한다.
• 10,000개의 부트스트랩 샘플에서 추출한 커널 밀도 추정치에 따르면, 제안된 3D-CNN 및 SP-Ensemble 접근법이 경쟁 모델보다 성능이 열 劣한 경우가 50% 미만이었으며, 이는 높은 일관성을 나타낸다.
• 상관계수 측정 방법(예: 피어슨) 선택이 여전히 임의적 요소로 남아 있음에도 불구하고, 핵심 결과에 큰 영향을 주지 않았다.