[논문 리뷰] A Domain Guided CNN Architecture for Predicting Age from Structural Brain Images

Pascal Sturmfels, Saige Rutherford외 4명|arXiv (Cornell University)|2018. 08. 11.

Domain Adaptation and Few-Shot Learning인용 수 13

한 줄 요약

이 논문은 뇌 영상에 특화된 도메인 가이드 3D CNN 아키텍처를 제안하여 지역별 특징을 학습하고 초기 레이어에서 더 많은 필터를 사용함으로써 성능과 학습 속도를 향상시킨다. 평균 절대 오차(MAE)가 1.4년으로, 기준 3D CNN 모델의 1.6 MAE를 능가하며, 학습 속도는 30% 빠르게 한다. 이는 자연 이미지 CNN의 가정이 뇌 영상 데이터에 그대로 적용되지 않음을 보여준다.

ABSTRACT

Given the wide success of convolutional neural networks (CNNs) applied to natural images, researchers have begun to apply them to neuroimaging data. To date, however, exploration of novel CNN architectures tailored to neuroimaging data has been limited. Several recent works fail to leverage the 3D structure of the brain, instead treating the brain as a set of independent 2D slices. Approaches that do utilize 3D convolutions rely on architectures developed for object recognition tasks in natural 2D images. Such architectures make assumptions about the input that may not hold for neuroimaging. For example, existing architectures assume that patterns in the brain exhibit translation invariance. However, a pattern in the brain may have different meaning depending on where in the brain it is located. There is a need to explore novel architectures that are tailored to brain images. We present two simple modifications to existing CNN architectures based on brain image structure. Applied to the task of brain age prediction, our network achieves a mean absolute error (MAE) of 1.4 years and trains 30% faster than a CNN baseline that achieves a MAE of 1.6 years. Our results suggest that lessons learned from developing models on natural images may not directly transfer to neuroimaging tasks. Instead, there remains a large space of unexplored questions regarding model development in this area, whose answers may differ from conventional wisdom.

연구 동기 및 목표

• 2D 자연 이미지용으로 설계된 표준 CNN 아키텍처를 3D 구조적 뇌 MRI 데이터에 적용할 때 발생하는 한계를 해결하기 위해.
• 자연 이미지 CNN에서 핵심 가정으로 여겨지는 이동 불변성(translation invariance)이 뇌 영상 데이터에서도 성립하는지 조사하기 위해.
• 뇌의 해부학적 구조에 맞게 CNN 아키텍처를 조정하여 뇌 MRI에서의 나이 예측 성능과 학습 효율성을 향상시키기 위해.
• 자연 이미지에 최적화된 아키텍처 선택이 뇌 영상 작업에 최적화되지 않을 수 있음을 입증하기 위해.

제안 방법

• 다른 뇌 영역에서 서로 다른 파라미터를 학습하는 지역별 특화된 컨볼루션 필터를 도입하여 위치에 따라 달라지는 패턴을 포착한다.
• 첫 번째 컨볼루션 레이어의 필터 수를 늘리고 이후 블록에서는 점차 감소시켜 초기 단계에서의 특징 학습 능력을 향상시킨다.
• 전체 뇌 부피의 공간적 구조를 유지하기 위해 3D 컨볼루션을 적용하여 2D 슬라이스 기반 처리를 피한다.
• 표준 3D CNN 백본을 사용하지만, 뇌 해부학적 제약 조건에 맞게 필터 분포와 파라미터 공유 방식을 수정한다.
• 연령을 타깃 레이블로 사용하여 필라델피아 뇌발달코hort(PNC) 데이터셋을 사용해 모델을 훈련시킨다.
• 평균 절대 오차(MAE)와 평균 제곱 오차(MSE)를 사용하여 성능을 평가하고, 표준 3D CNN 기준 모델과 비교한다.

실험 결과

연구 질문

• RQ1 표준 2D CNN의 가정(예: 이동 불변성)을 3D 뇌 MRI 데이터에 적용할 경우 성능이 열등해지는가?
• RQ2 초기 레이어에서 필터 수를 늘려 특징 학습 능력을 향상시키면 나이 예측 성능 향상과 더 빠른 학습이 가능한가?
• RQ3 컨볼루션 레이어에서 지역별 파라미터 공유를 사용할 경우, 표준 가중치 공유 방식보다 뇌 나이 예측 성능이 향상되는가?
• RQ4 학습 데이터 크기와 모델 용량의 변동에 대해 아키텍처 개선 사항의 탄력성은 어느 정도인가?
• RQ5 뇌 영상 데이터에 특화된 아키텍처 수정 사항이, 완전 연결 계층의 파라미터 수를 조정한 후에도 표준 CNN을 능가할 수 있는가?

주요 결과

• 제안된 아키텍처는 뇌 나이 예측에서 평균 절대 오차(MAE)가 1.4년을 기록하여 기준 3D CNN(1.6 MAE)을 능가한다.
• 성능 향상과 함께 기준 CNN보다 30% 더 빠르게 학습되며, 이는 최적화 효율성 향상을 시사한다.
• 학습 데이터 크기가 작아질수록 제안 모델과 기준 모델 간의 성능 격차가 커지며, 이는 더 작은 데이터셋에 대해 더 뛰어난 탄력성을 보임을 시사한다.
• 다양한 데이터 다운샘플링 유형과 다양한 학습 예제 수에 걸쳐 일관된 성능 향상이 유지된다.
• 완전 연결 계층의 파라미터 수를 줄였을 때 성능이 악화되는 점을 고려하면, 성능 향상은 파라미터 수 감소 때문이 아니다.
• 가중치 초기화 방식에 따른 성능 변동이 적어, 더 높은 학습 안정성을 보인다.