[논문 리뷰] Deep Relation Learning for Regression and Its Application to Brain Age Estimation

Sheng He, Yanfang Feng외 2명|arXiv (Cornell University)|2022. 04. 13.

Domain Adaptation and Few-Shot Learning인용 수 9

한 줄 요약

이 논문은 뇌 MRI 영상 쌍 간의 네 가지 비선형 관계—누적, 상대, 최대, 최소—를 활용하여 회귀를 위한 딥 리레이션 러닝을 제안한다. 이를 통해 뇌 연령 추정을 향상시킨다. 시아미즈 CNN-Transformer 아키텍처를 사용하여, 6,049명의 대상자로 구성된 수명 주기 데이터셋에서 최신 기술 수준의 평균 절대 오차(MAE) 2.38년을 달성한다.

ABSTRACT

Most deep learning models for temporal regression directly output the estimation based on single input images, ignoring the relationships between different images. In this paper, we propose deep relation learning for regression, aiming to learn different relations between a pair of input images. Four non-linear relations are considered: "cumulative relation", "relative relation", "maximal relation" and "minimal relation". These four relations are learned simultaneously from one deep neural network which has two parts: feature extraction and relation regression. We use an efficient convolutional neural network to extract deep features from the pair of input images and apply a Transformer for relation learning. The proposed method is evaluated on a merged dataset with 6,049 subjects with ages of 0-97 years using 5-fold cross-validation for the task of brain age estimation. The experimental results have shown that the proposed method achieved a mean absolute error (MAE) of 2.38 years, which is lower than the MAEs of 8 other state-of-the-art algorithms with statistical significance (p$<$0.05) in paired T-test (two-side).

연구 동기 및 목표

• 단일 영상 회귀 모델이 뇌 연령 추정에서 영상 간 관계를 忽시하는 한계를 해결하기 위해.
• 단일 영상 예측에 의존하는 것 대신, 쌍의 뇌 MRI 영상 간 다수의 비선형 관계를 학습하여 회귀 정확도를 향상시키기 위해.
• 모델이 동일한 영상 쌍(x,x)으로부터 연령을 예측할 수 있도록 함으로써 연령 추정의 반사성(reflexivity)을 가능하게 하여, 강건성과 일관성을 향상시키기 위해.
• 불균형한 연령 분포에서 특히 중요한 편향 보정 및 코hort 간 비교 가능성을 탐색하기 위해.
• 다양한 입력 구성, 예를 들어 동일한 영상과 다른 영상 쌍을 포함하여, 방법의 일반성과 일관성을 입증하기 위해.

제안 방법

• 프레임워크는 두 단계로 구성된다: 공유 또는 독립적인 시아미즈 CNN 백본을 통한 특징 추출, 그리고 표준 트랜스포머를 사용한 관계 회귀.
• 네 가지 비선형 관계를 동시에 학습한다: 누적(τx + τy), 상대(τx − τy), 최대(max(τx, τy)), 최소(min(τx, τy)) 연령 관계.
• CNN은 쌍의 입력 영상(x,y)에서 깊은 특징을 추출하며, 이를 토큰화하여 표준 트랜스포머에 공급하여 공동 관계 회귀를 수행한다.
• 네 가지 관계를 동시에 예측하기 위해 다중 작업 손실을 사용하여 엔드 투 엔드로 학습함으로써, 네트워크가 복잡한 비선형 상호작용을 학습할 수 있도록 한다.
• 기준 기반 추정(다른 영상을 기준으로 사용)과 자기 기반 추정(동일한 영상을 두 번 사용)을 모두 지원하여 반사성을 확보한다.
• 6,049명의 대상자로 구성된 통합 데이터셋에서 5겹 교차검증을 통해 아키텍처를 평가한다.

실험 결과

연구 질문

• RQ1 쌍의 뇌 MRI 영상 간 다수의 비선형 관계를 학습하는 것이 단일 영상 회귀 모델에 비해 뇌 연령 추정 정확도를 향상시키는가?
• RQ2 동일한 영상(x,x)을 입력으로 사용할 때와 다른 영상(x≠y)을 사용할 때 성능이 일관한가? 이는 반사성의 증거가 된다.
• RQ3 누적, 상대, 최대, 최소와 같은 다양한 유형의 관계는 모델 성능에 어떻게 기여하며, 어떤 관계가 가장 높은 예측 정확도를 낳는가?
• RQ4 다수의 관계를 함께 학습하면, 개별적으로나 단일 관계만을 사용할 때보다 평균 절대 오차(MAE)를 감소시키는가?
• RQ5 특히 학습 샘플 수가 적은 연령 범위에서 모델의 성능은 어떻게 되며, 데이터 불균형으로 인한 오차를 줄일 수 있는가?

주요 결과

• 제안된 딥 리레이션 러닝 방법은 6,049명의 대상자로 구성된 수명 주기 데이터셋에서 평균 절대 오차(MAE) 2.38년을 달성하였으며, 8개의 최신 기술 수준 모델보다 유의미하게 뛰어나다(p < 0.05, 대응 t-검정).
• 최대(r₃ = max(τₓ, τᵧ)) 및 최소(r₄ = min(τₓ, τᵧ)) 관계를 사용했을 때 가장 높은 성능를 기록하였으며, 이는 비선형 관계가 선형 관계보다 더 정보가 많음을 시사한다.
• 모든 네 가지 관계를 함께 학습한 결과, 단일 또는 쌍 관계 학습보다 略적으로 낮은 MAE(2.38년)를 기록하여, 다중 관계 감독의 이점을 입증한다.
• 입력 쌍이 동일한 영상(x,x)이든 다른 영상(x≠y)이든 간에 성능이 일관되게 유지되어 반사성과 강건성을 확인한다.
• 연령 추정과 실제 연령 간의 일치도를 나타내는 공차 상관계수(CS)는 87.40%(α=5년)이며, 피어슨 상관계수는 0.988로, 연령과 강한 일치를 보인다.
• 다양한 입력 구성에 대해 일반화 능력이 뛰어나고, 특히 불균형한 연령 분포에서 편향 보정 및 코hort 간 비교 가능성을 보여주며 잠재력을 입증한다.