[논문 리뷰] PTGB: Pre-Train Graph Neural Networks for Brain Network Analysis

Yi Yang, Hejie Cui외 1명|arXiv (Cornell University)|2023. 05. 20.

Functional Brain Connectivity Studies인용 수 4

한 줄 요약

PTGB는 뇌망 분석을 위한 자기학습 그래프 신경망 사전학습 프레임워크로, 데이터 부족 문제와 일관되지 않은 분할 아틀라스 문제를 해결하기 위해 이중 수준의 대비 학습과 데이터 기반 아틀라스 매핑 파이프라인을 활용한다. 다양한 뇌질환 예측 작업에서 최신 기술 수준의 성능을 달성하였으며, 핵심 지표에서 기준 모델 대비 4.27%의 상대적 향상을 보였다.

ABSTRACT

The human brain is the central hub of the neurobiological system, controlling behavior and cognition in complex ways. Recent advances in neuroscience and neuroimaging analysis have shown a growing interest in the interactions between brain regions of interest (ROIs) and their impact on neural development and disorder diagnosis. As a powerful deep model for analyzing graph-structured data, Graph Neural Networks (GNNs) have been applied for brain network analysis. However, training deep models requires large amounts of labeled data, which is often scarce in brain network datasets due to the complexities of data acquisition and sharing restrictions. To make the most out of available training data, we propose PTGB, a GNN pre-training framework that captures intrinsic brain network structures, regardless of clinical outcomes, and is easily adaptable to various downstream tasks. PTGB comprises two key components: (1) an unsupervised pre-training technique designed specifically for brain networks, which enables learning from large-scale datasets without task-specific labels; (2) a data-driven parcellation atlas mapping pipeline that facilitates knowledge transfer across datasets with different ROI systems. Extensive evaluations using various GNN models have demonstrated the robust and superior performance of PTGB compared to baseline methods.

연구 동기 및 목표

• 뇌망 분석에서 레이블이 부족한 데이터 문제로 인해 딥러닝 성능이 저하되는 문제를 해결하기 위해.
• 다양한 신경영상 데이터셋 간 영역-관심 영역(ROI) 분할 체계의 일관성 부족으로 인해 지식 전이가 방해되는 문제를 해결하기 위해.
• 작업별 레이블 없이도 비지도 뇌망에서 구조적 인도적 편향을 학습하는 사전학습 프레임워크를 개발하기 위해.
• 다양한 ROI 아틀라스 간 공통의 해석 가능한 매핑을 학습하여 다양한 데이터셋 간 적응을 효과적으로 가능하게 하기 위해.
• 그래프 수준 및 노드 수준 표현의 공동 최적화를 통해 최종 질병 예측 성능을 향상시키기 위해.

제안 방법

• 지역 이웃과 전반적인 그래프 수준 표현을 동시에 최적화하는 이중 수준의 노드 대비 샘플링 전략을 제안한다.
• 다양한 뇌망 그래프 간 상호정보량 최대화 기반의 다중 데이터셋 자기학습 사전학습 목표를 도입한다.
• 스parseness, 국소성, 커뮤니티 정규화 기법을 활용한 세 가지 전용 정규화 기법을 사용하여 다양한 분할 템플릿 간 ROI를 정렬하는 데이터 기반 아틀라스 매핑 파이프라인을 구현한다.
• 분산 기반 정렬을 통해 교차 아틀라스 정렬을 위한 가장 정보가 풍부한 가상 ROI를 식별하고 우선순위를 정한다.
• MAML 기반 메타학습 원리를 적용하여 사전학습 모델을 최종 작업에 신속하게 적응시킬 수 있도록 한다.
• 전체 그래프의 구조를 국소 노드 표현에 요약하는 그래프 수준의 대비 학습 구성 요소를 통합한다.

Figure 1: Overview of the proposed framework PTGB . The initial features of the source datasets are projected to a fixed dimension through atlas transformation followed by variance-based feature alignment, which facilitates self-supervised GNN pre-training on multiple datasets via the novel two-leve

실험 결과

연구 질문

• RQ1 대규모 비지도 뇌망에서 자기학습 사전학습이 최종 질병 예측 성능을 향상시키는가?
• RQ2 이중 수준의 대비 학습이 뇌망 내 국소적 및 전반적인 구조 패턴을 얼마나 효과적으로 포착하는가?
• RQ3 수동 주석 없이 데이터 기반 아틀라스 매핑 파이프라인으로 얼마나 효과적으로 다양한 분할 체계 간 ROI를 정렬할 수 있는가?
• RQ4 PTGB 프레임워크의 각 구성 요소—특히 정규화 기법과 대비 목표 함수—가 전체 성능에 기여하는 정도는 어떠한가?
• RQ5 ROI 정의와 임상 결과가 다양한 데이터셋 간에서 PTGB의 일반화 능력은 어떠한가?

주요 결과

• PTGB 전체 프레임워크는 가장 강력한 기준 모델 대비 정확도와 AUC 모두 4.27%의 상대적 향상을 달성하여, 다수의 그래프 간 공통된 서브구조 지식을 공동으로 학습하는 데서 유의미한 가치를 입증한다.
• 스parseness 정규화 기법을 제거할 경우 성능 저하가 가장 크게 발생하여, 이 기법이 강건성 확보와 과적합 방지에 핵심적인 역할을 한다는 것을 확인한다.
• 국소성 및 커뮤니티 정규화 기법의 포함이 성능 향상에 뚜렷한 기여를 하여, 공간적 및 모듈형 뇌 구조 인식의 중요성을 입증한다.
• 이중 수준의 대비 학습(노드 수준 및 그래프 수준)은 단일 수준 대비 더 빠른 수렴과 더 나은 최종 적응 성능을 기록한다.
• 분산 기반 ROI 정렬 방법은 PPMI, BP, HIV 데이터셋 간에 겹치는 뇌 영역을 성공적으로 식별하였으며, 시각화 결과는 영역 간 대응 관계를 확인시켰다.
• PTGB 프레임워크는 PPMI, BP, HIV 세 가지 서로 다른 데이터셋에서 강력한 성능 유지를 보이며, 다양한 임상 및 영상 맥락에서의 강건성과 일반화 능력을 입증한다.

Figure 2: Visual demonstration of the sample types where $X_{i,p}$ is the anchor and $\mathbf{S_{1}}$ / $\mathbf{S_{4}}$ are sampled as 1-hop neighbors.